Google DeepMind 与新加坡政府合作打造反诈骗微调 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型在本地诈骗对话数据上微调出一个端侧反诈骗检测模型。该模型完全在设备本地运行，新加坡政府和 Google 均无法访问用户对话，并通过"轻量分类器初筛 + Gemma 上下文分析"两阶段流程触发实时警告。模型在新加坡国际网络周（SICW 2026）上展示，将分阶段在应用中推出。
#端侧
#端侧
今日 1 条Google DeepMindAI 评分4747
Hugging Face Blog精选AI 评分7676 Liquid AI 发布端侧智能体模型 LFM2.5-24B-A2B
Liquid AI 发布 LFM2.5-24B-A2B，一款 24B 总参数、2B 激活参数的推理模型，先思考再作答、可调用工具并在智能体框架中完成多步任务。它基于 LFM2-24B-A2B 架构，上下文窗口从 32K 扩到 131K，词表从 65K 扩到 128K，预训练从约 17T 扩到约 33T tokens。
推荐理由：官方给出这款 2B 激活参数端侧推理模型在工具调用与指令遵循上的对比数据，可据此判断本地智能体的可行边界。
Google DeepMind精选AI 评分7070 Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型
Google DeepMind 发布 EmbeddingGemma 2，把文本、图像、音频、视频统一映射到同一嵌入空间，基于 Gemma 4 架构，参数 740M，采用 Apache 2.0 许可，面向端侧推理。
推荐理由：官方给出参数量、模块化设计与存储压缩细节，读者可据此判断端侧多模态检索的落地成本。
NVIDIA Blog精选AI 评分6767 NVIDIA 与 Microsoft 在 Windows PC 上推出 RTX Spark 和 AI 智能体基础设施
在旧金山 Microsoft 活动上，NVIDIA 与 Microsoft 宣布共同为 AI 智能体在 Windows PC 上运行进行软硬件协同设计，Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers（MXC）正式可用，让智能体在操作系统控制下安全持续地后台运行。
推荐理由：NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一起推到 Windows 上，读者可据此判断端侧智能体的落地路径。
NVIDIA BlogAI 评分5353 NVIDIA DGX Spark 推出 64GB 版本，双机集群扩展本地 AI
NVIDIA 为 DGX Spark 新增 64GB 统一内存版本，10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 出货，起售价 $4,999。
NVIDIA Developer BlogAI 评分2626 NVIDIA TensorRT RTX 示例：用 C++ 构建本地 AI 应用
NVIDIA 发布 Do Inference Now (DIN) Deploy，一个开源 C++ 示例集合，将 ONNX Runtime 与 NVIDIA TensorRT RTX 执行提供程序结合，帮助开发者把模型 checkpoint 转到本地原生应用。该示例面向需要可移植模型格式、可靠运行时和跨目标系统加速的本地 AI 场景。
NVIDIA Blog精选AI 评分7070 NVIDIA 联合 Google DeepMind 开放 2800 多种病毒的蛋白复合物结构数据集
NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构，通过 AlphaFold Database 公开 2800 多种病毒的蛋白复合物预测 3D 结构，供任何科学家免费使用。
推荐理由：NVIDIA 联合 Google DeepMind 等开放 2800 多种病毒的蛋白复合物预测结构，读者可了解数据集规模与可复用的推理流程。
Meta EngineeringAI 评分5252 Meta 将 Private Processing 机密计算引入 AI 眼镜
Meta 宣布把 Private Processing 机密计算基础设施扩展到 Meta AI 眼镜，让流式转录、上下文搜索和长期记忆等云端 AI 负载在机密虚拟机（CVM）中执行，Meta 自身也无法读取用户数据。
NVIDIA Developer BlogAI 评分3636 TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic 基准测试
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic 基准测试，速度提升 6.4 倍。该方案面向从云端数据中心迁移到车辆、机器人等边缘设备的 AI 智能体，需快速生成 token 并在不断增长的对话中完成工具选择、结果评估与持续推理。
NVIDIA Developer BlogAI 评分3030 前沿推理走向边缘：如何在 NVIDIA Jetson 上部署并优化模型
NVIDIA 介绍如何在 Jetson 边缘硬件上部署并优化前沿推理与智能体模型。此前具备多步推理能力的模型体积过大，无法在边缘本地运行，开发者只能把推理绕经数据中心，带来网络依赖、成本上升和本可留在设备上的数据外泄风险。NVIDIA 表示这一限制正在被解除。
Hugging Face BlogAI 评分3232 用 100 步 GRPO 微调 LFM2.5-350M，提升结构化输出合规性
一份公开教程用 TRL 的 GRPO 对 LFM2.5-350M 做微调，仅约 500 条样本、100 个训练步，就把 IFStruct 基准成绩从 22.6% 提升到 29.7%。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布 @huggingface/kernels：207 个 WebGPU 内核用于本地 AI
Hugging Face 的 WebAI 团队发布 @huggingface/kernels 库和 207 个 WebGPU 内核，均已发布为独立仓库并采用 Apache-2.0 许可，用于从 Hub 加载和运行优化后的内核。
推荐理由：Hugging Face 放出 207 个 WebGPU kernel 及配套加载器和浏览器评测工具，并给出与 ORT WebGPU 的逐项对比数据。
NVIDIA Developer Blog精选AI 评分6666 阿里发布 Qwen3.8-Flash-Next 权重，预览 Qwen4 架构
阿里发布 Qwen3.8-Flash-Next 的模型权重，作为即将推出的 Qwen4 架构的预览，供开发者实验和评估。该模型是多模态 MoE 模型，主模型 125B 参数，另有 51B N-gram 嵌入向量，每 token 激活 6B 参数，原生上下文窗口 262,144 token，可扩展至 1M token。
NVIDIA Developer BlogAI 评分1919 用 CLI、技能和 AI 编程智能体开发 NVIDIA Holoscan 应用
NVIDIA 探索通用编程智能体能否利用与工程师相同的示例、文档和开发工具来开发 Holoscan 边缘实时 AI 应用。Holoscan 是面向医疗影像、机器人等边缘实时 AI 应用的平台，HoloHub 是其配套仓库，汇集了不断增长的参考应用与组件。
NVIDIA Developer BlogAI 评分5050 如何为端侧机器人控制微调 NVIDIA Cosmos 3 Edge
NVIDIA 推出 Cosmos 3 Edge，这是 Cosmos 3 家族中的 4B 全模态模型，内置 2B 基于 Nemotron 的推理器，用于解决世界模型体积过大难以端侧部署的问题。该模型面向机器人利用自身传感器、环境和任务进行策略适配，NVIDIA 开发者博客介绍了如何对其做后训练以用于端侧机器人控制。
Google DeepMind精选AI 评分7676 Google DeepMind 发布多语种手语转文本模型 SL2T，首发 Gboard 与 Live Transcribe
Google DeepMind 发布多语种手语转文本模型 SL2T，并在 Pixel 11 的 Gboard 与 Live Transcribe 中以 ASL 转英文的听写功能首次进入消费产品，训练数据超 10 万小时、覆盖 50 多种手语。
推荐理由：官方给出了 SL2T 的数据规模、基准成绩和隐私处理方式，可据此判断手语翻译在消费端落地的可行边界。
Meta Engineering精选AI 评分6262 Meta 如何在 WhatsApp 以端到端加密与可验证性构建 Scam Alert
Meta 在 WhatsApp 上构建了可选的 Scam Alert 功能，用端侧机器学习模型在本地对来自非联系人的消息做诈骗概率分类，消息内容不会离开设备，也不会被自动上报。
推荐理由：原文给出 WhatsApp 端侧反诈告警的隐私架构与可验证设计，读者可了解端侧模型在加密通信场景的完整工程路径。
NVIDIA Developer BlogAI 评分2424 NVIDIA JetPack 7.2.1 新增智能体视频技能与 T3000 仿真
NVIDIA 发布 JetPack 7.2.1，为 Jetson 平台加入智能体视频技能（Agentic Video Skills）和 T3000 仿真（T3000 Emulation）。JetPack 面向机器人与智能视频分析等场景，覆盖多摄像头采集、网络流解码、AI 推理与视频编码的完整数据路径。
NVIDIA Developer Blog精选AI 评分6464 Meta 开源 Muse Glimmer：30B 稠密模型，面向本地智能体工作流
Meta 重返开源生态，发布 Muse Glimmer，一个 30B 开源权重稠密模型，上下文窗口超过 120K，面向本地 AI 智能体工作。该模型针对 NVIDIA 边缘、桌面和工作站 AI 平台优化，可在单 GPU 上达到 20K tokens/sec，让常驻智能体在本地处理数据并执行复杂任务。
推荐理由：Meta 回归开源发布 30B 本地智能体模型，并给出单 GPU 吞吐数字和运行平台范围。
Hugging Face Blog精选AI 评分8282 Meta 发布 Muse Glimmer：30B 本地智能体多模态开源模型
Meta 发布多模态模型 Muse Glimmer，从 Muse 蒸馏到 30B 参数，采用 Apache 2.0 许可，面向本地智能体场景，可用于编码、文档分析和个人助理。
推荐理由：材料给出 30B 多模态模型在智能体与编码基准上的完整对比表和本地部署路径，可判断其端侧适用边界。
Hugging Face BlogAI 评分4040 Transformers.js 试验跨源存储（Cross-Origin Storage）API
Google Chrome 团队开发者关系工程师 Thomas Steiner 在 Hugging Face 博客介绍，Transformers.js 试验中的跨源存储（COS）API 引入 navigator.crossOriginStorage 接口，通过加密哈希而非 URL 跨源存取大文件。
Hugging Face BlogAI 评分5050 Hugging Face 用本地模型 Gemma 与 Qwen 免费分诊 OpenClaw 仓库
Hugging Face 分享用本地开源模型加智能体框架，为 OpenClaw 仓库的 issue 和 PR 做自动分类与分流。方案在 NVIDIA GB10（DGX Spark）上运行 gemma-4-26b-a4b 和 qwen3.6-35b-a3b，两者本地每秒可生成数百 token，并借助受限只读 shell reposhell 让模型查看代码库后输出分类标签。
Google DeepMind精选AI 评分6767 Google DeepMind 发布 DiffusionGemma：文本扩散模型推理最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式一次性生成 256 个 token，在专用 GPU 上文本生成最高提速 4 倍，单张 NVIDIA H100 上超过 1000 tokens/秒，RTX 5090 上超过 700 tokens/秒。
推荐理由：官方给出 4x 推理加速的实测数字与本地低并发场景边界，读者可据此判断它适合哪些交互式工作流。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemma 4 12B 无编码器多模态模型
Google DeepMind 发布 Gemma 4 12B，一款面向笔记本的 12B 多模态模型，性能接近 26B MoE 模型，可在 16GB VRAM 或统一内存上本地运行。
推荐理由：Gemma 4 12B 去掉视觉与音频编码器，16GB 内存即可本地跑，可看轻量多模态模型的新做法。
Hugging Face Blog精选AI 评分7272 H Company 发布 Holo3.1 计算机操作智能体模型家族
H Company 发布 Holo3.1 模型家族，共四个尺寸（0.8B、4B、9B、35B-A3B），并首次提供 FP8、Q4 GGUF、NVFP4 量化权重用于本地推理。
推荐理由：原文给出多尺寸模型与量化权重，以及移动端和跨框架的基准变化，可供判断本地 computer-use 智能体的落地成本。
Google DeepMind精选AI 评分8484 Google DeepMind 发布 Gemma 4 开源模型家族
Google DeepMind 发布 Gemma 4 开源模型家族，包含 E2B、E4B、26B MoE 和 31B Dense 四个规格，采用 Apache 2.0 许可。
推荐理由：Gemma 4 给出四种规格、Apache 2.0 许可与 Arena 排名，可据此判断开源模型在本地与端侧的可用边界。
Hugging Face Blog精选AI 评分8686 Google DeepMind 发布 Gemma 4 多模态模型家族
Google DeepMind 在 HF 发布 Gemma 4 多模态模型家族，采用 Apache 2.0 许可，支持图像、文本和音频输入并生成文本。模型提供 E2B、E4B、12B Unified、31B 和 26B A4B 五个尺寸，最大上下文窗口 256K，其中 12B Unified 去掉独立视觉与音频编码器，直接把原始图像块和音频波形投影到 LLM 嵌入空间。
推荐理由：Gemma 4 五档模型覆盖端侧到 MoE，附各推理引擎与微调工具链的接入方式，可据此判断本地部署路径。
Hugging Face BlogAI 评分4343 Hugging Face 发布嵌入式机器人 AI 指南：数据集录制、VLA 微调与端侧优化
Hugging Face 发布 NXP 的嵌入式机器人 AI 实操指南，覆盖数据集录制、VLA 策略微调（ACT 与 SmolVLA）及端侧优化。指南建议采用顶视、夹爪、左视三摄像头配置，按 10×10 cm 划分 11 个工作区簇、每簇至少录制 10 个 episode，并用 20% 恢复型 episode 提升成功率。
Hugging Face Blog精选AI 评分6767 GGML 与 llama.cpp 加入 Hugging Face，推进 Local AI 长期发展
Hugging Face 宣布 GGML 及其创建的 llama.cpp 加入 HF，Georgi Gerganov 团队的目标是让未来 AI 保持开放，并为 ggml 与 llama.cpp 社区提供规模化和支持。
推荐理由：GGML 团队加入 HF 后，llama.cpp 的维护自主权与长期资源安排是本地推理生态的关键变化。
Hugging Face BlogAI 评分4646 H Company 新模型 Holo2-235B-A22B Preview 登顶 UI 定位榜
H Company 发布迄今最大的 UI 定位模型 Holo2-235B-A22B Preview，在 Screenspot-Pro 上取得 78.5% 的 SOTA 成绩，OSWorld G 达 79.0%，已上线 Hugging Face。
Hugging Face Blog精选AI 评分6262 AnyLanguageModel 发布：为 Apple 平台本地与远程 LLM 提供统一 API
AnyLanguageModel 是一个 Swift 包，作为 Apple Foundation Models 框架的 drop-in 替代，只需把 import FoundationModels 换成 import AnyLanguageModel 即可保持相同 API。
推荐理由：AnyLanguageModel 用 Apple Foundation Models 的统一 API 接入本地与云端模型，读者可据此评估跨后端切换的成本。
Hugging Face BlogAI 评分5454 IBM 发布 Granite 4.0 Nano 系列端侧小模型
IBM 发布 Granite 4.0 Nano 系列，这是其迄今最小的模型，面向边缘和端侧应用，包含 Granite 4.0 H 1B（约 1.5B 参数）、Granite 4.0 H 350M 两个混合 SSM 架构稠密模型，以及传统 Transformer 版的 Granite 4.0 1B 和 350M。
Hugging Face BlogAI 评分88 Arm 将参加 PyTorch Conference，邀开发者现场体验 ExecuTorch 与 vLLM
Arm 将于 10 月 22-23 日现场参加 PyTorch Conference，展示开发者如何用 PyTorch 和 ExecuTorch 构建与部署 AI 应用，并在 P1 展位演示神经图形训练、音频生成、语音识别及智能体工作流。
Hugging Face BlogAI 评分3131 用 Core ML 和 dots.ocr 实现 SOTA OCR：将 3B 模型转换到端侧运行
Hugging Face 发布三部分系列文章，讲解如何用 Core ML 与 MLX 将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换到端侧运行，该模型在 OmniDocBench 上超过 Gemini 2.5 Pro。
Hugging Face BlogAI 评分2424 在 Intel Core Ultra 上加速 Qwen3-8B 智能体：用深度剪枝草稿模型提升推理速度
Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上以 Qwen3-0.6B 作草稿模型对 Qwen3-8B 做投机解码，生成速度提升约 1.3 倍。
Hugging Face BlogAI 评分3838 Swift Transformers 发布 1.0，未来聚焦 MLX 与智能体用例
Hugging Face 的 Swift 库 swift-transformers 发布 1.0，将 Tokenizers 和 Hub 升级为独立顶级模块，并采用支持有状态模型与 MLTensor 的现代 Core ML API。
Hugging Face Blog精选AI 评分6262 Google 发布 EmbeddingGemma 多语言嵌入模型
Google 发布 EmbeddingGemma，一个面向端侧场景的多语言嵌入模型，308M 参数、2K 上下文窗口，支持 100 多种语言。该模型基于 Gemma3 骨干并改为双向注意力，量化后内存占用低于 200 MB，作者称其在 500M 参数以下的纯文本多语言嵌入模型中 MTEB 排名最高。
推荐理由：读者可以据此了解 308M 参数多语言嵌入模型在 MTEB 上的位置以及端侧 RAG 的落地路径。
Hugging Face BlogAI 评分4949 Arm 与 ExecuTorch 0.7：让生成式 AI 走向大众
ExecuTorch 0.7 beta 将默认启用 Arm KleidiAI，为基于最新 Arm CPU 架构及大量旧款手机自动带来加速，开发者无需改代码即可通过 ExecuTorch 和 XNNPack 获得优化，实现更快的模型启动、更低延迟和更小内存占用。
Hugging Face BlogAI 评分4646 Arm 发布 Neural Super Sampling：面向移动 GPU 的 AI 实时超采样
Arm 推出 Neural Super Sampling（NSS）供图形与游戏开发者试用，这是一个在移动 GPU 的 Neural Accelerators（NX）上运行的实时时序超采样参数预测模型。
Hugging Face Blog精选AI 评分7373 Gemma 3n 正式上线开源生态，E2B 仅需 2GB GPU 显存
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、Transformers.js、Ollama、Google AI Edge 等主流开源库上线，共发布 gemma-3n-E2B 与 gemma-3n-E4B 两种尺寸，各有 base 和 instruct 变体。
推荐理由：原文给出 Gemma 3n 的端侧内存占用、多模态编码器与各开源库集成方式，可据此判断本地部署门槛。