NVIDIA AI-Q Blueprint 基于 Llama Nemotron 登顶 DeepResearch Bench 开源榜首
NVIDIA AI-Q Blueprint 在 DeepResearch Bench 的"LLM with Search"榜单上以 40.52 分登顶,成为得分最高的完全开源许可方案。
NVIDIA AI-Q Blueprint 在 DeepResearch Bench 的"LLM with Search"榜单上以 40.52 分登顶,成为得分最高的完全开源许可方案。
Hugging Face 推出 3LM(علم),首个专门评估阿拉伯语 LLM 在 STEM 与代码生成能力的多组件基准,包含 865 道真实 STEM 选择题、1744 道合成高难度题,以及译成阿拉伯语的 HumanEval+ 和 MBPP+ 代码任务。
Hugging Face 博客演示了如何用 Gradio 的 MCP 集成在 Python 中搭建 AI 购物助手,只需在 launch() 中设置 mcp_server=True,Gradio 便会把 Python 函数自动转换为带名称、描述和输入 schema 的 MCP 工具,并支持实时进度通知与文件上传。
Hugging Face 发布开源免费的实验追踪 Python 库 Trackio,提供本地 Gradio 仪表盘,并可将仪表盘同步到 Hugging Face Spaces 以 URL 或 iframe 分享。
Hugging Face 把 HF Mirror CLI 从 huggingface-cli 正式更名为 hf,命令按资源重新分组为 hf auth、hf cache、hf repo、hf upload、hf download 等,旧命令仍可用但会提示弃用警告。
Parquet Content-Defined Chunking(CDC)已在 PyArrow 和 Pandas 中可用,可在 HF 的 Xet 存储层上对 Parquet 文件高效去重,只上传或下载变更的数据块。
Hugging Face 博客给出用 Diffusers 和 PEFT 加速 Flux.1-Dev 上 LoRA 推理的优化方案,组合 Flash Attention 3、torch.compile 和 FP8 量化,在 H100 上相对基线提速 2.23 倍。
Hugging Face 开源基准 TimeScope,通过在 1 分钟至 8 小时的长视频中插入 5-10 秒"针"片段,评测视频大模型的定位检索、信息综合与细粒度时序感知三项能力。测试显示,即便 Gemini 2.5-Pro 等领先模型在真正的长视频时序理解上仍显吃力,且视频越长性能下滑越明显。
NVIDIA 推出面向 Hugging Face 的 NIM 推理微服务,可在单个 Docker 容器中部署超过 10 万个 LLM。NIM 会自动识别模型格式与量化类型(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择后端,免去手工配置。
Arc Institute 发起 Virtual Cell Challenge,要求参赛者训练模型预测在部分未见过的细胞类型中沉默某个基因的效果,即"上下文泛化"。
Consilium 是开发者在 Gradio Agents & MCP Hackathon 期间构建的多 LLM 平台,让 AI 模型通过结构化辩论讨论复杂问题并达成共识,支持多数投票和排序选择等决策模式。
Hugging Face 发布 FutureBench,通过让 AI 智能体预测真实未来事件来评测其推理能力,避免传统基准的数据污染问题。该基准用基于 smolagents 的智能体抓取新闻生成预测问题,并接入 Polymarket 预测市场,每周分别产出约 5 个新闻问题和 8 个市场问题,答案可随时间验证。
Gradio 5.38.0 为 Gradio MCP Server 带来五项改进:新增 "File Upload" MCP server 让智能体直接上传本地文件,实时流式推送进度通知,并可用 gr.load_openapi 一行代码将 OpenAPI schema 转为 MCP server。
Hugging Face 推出 Ettin,首个用相同数据(2T tokens)、架构和训练配方训练的 SoTA 配对编码器与解码器模型套件,参数覆盖 17M-1B。
Hugging Face 宣布把 Hub 存储后端从 Git LFS 迁移到 Xet,6 个月内已有 50 万个仓库、20 PB 数据迁入,超过 100 万用户在用。
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B,基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练,在 miniF2F 基准上以 TTRL 搜索框架达到 92.2% 的 SOTA 通过率。
Hugging Face 开发了 hf.co/mcp 的 MCP Server,让 AI 助手通过一个 URL 远程访问 Hub 与 Spaces 上数千个 AI 应用,并支持用户按需自定义工具。生产环境选择 MCP 的 Streamable HTTP 传输,采用无状态、Direct Response 配置;开源代码同时支持 STDIO、SSE 与 Streamable HTTP。
Hugging Face 发布 Python 库 ScreenEnv,可在 Docker 容器中创建隔离的 Ubuntu 桌面环境,用于测试和部署能看、能点击、能与真实应用交互的 GUI(Computer Use)智能体。
推荐理由:Hugging Face 把桌面智能体的沙箱环境做成了可直接 pip 安装的库,读者可据此判断 GUI Agent 的搭建与部署成本变化。
Hugging Face 发布博客介绍机器人异步推理,将动作预测与动作执行解耦,让机器人在 PolicyServer 计算下一段动作时继续执行当前动作队列,从而消除等待推理的空闲时间。
Hugging Face 与 AMD 合作,为 MI300X 编写开源优化内核,提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换,融合 SwiGLU 激活与 FP8 转换,以及 Skinny GEMM——带来显著加速,测量基于输入 1、输出 128 的解码场景。
Hugging Face 与 Pollen Robotics 联合发布开源机器人 Reachy Mini,Lite 版 399 美元、带计算与电池的 Compute 版 499 美元,预计约 90 天发货。
Hugging Face 博客介绍如何通过 Gradio MCP Servers 为 LLM 扩展能力。Gradio 从 5.28.0 版本起支持 MCP 协议,使 Hugging Face Spaces 上的数千个 AI 应用成为 LLM 可直接调用的工具。
Hugging Face 发布 SmolLM3,一个 3B 全开源模型,训练于 11.2T tokens,支持英语、法语、西班牙语、德语、意大利语和葡萄牙语,上下文窗口达 128k。
推荐理由:Hugging Face 公开了 3B 模型的完整训练配方与数据配比,读者可了解小模型在长上下文和双模式推理上的工程路径。
Hugging Face 在 nanoVLM 项目中发现,训练中约 60% 的 batch 被无用的 padding token 占据,GPU 大量空转。其博客给出五阶段数据管道方案:从朴素 padding、固定长度裁剪,到用背包问题(knapsack)动态打包序列,并借助 IterableDataset 与生产者-消费者队列实现多模态数据的按需组批,尽量减少填充浪费。
HF Mirror 基础设施团队公开支撑其生产环境的三类核心告警:NAT 网关吞吐量过高告警用于监控出网流量,可在流量激增或重构时触发以优化成本;Hub 请求日志归档成功率告警依托 Filebeat、Logstash 与 Elasticsearch 组成的日志管道,保障模型使用数据的采集与归档。
Hugging Face 宣布举办 NeurIPS 2025 E2LM 竞赛,面向科学知识领域构建能在 LLM 训练早期(约 200B tokens 前)捕捉有效信号的新基准。
Sentence Transformers 现已支持训练和微调稀疏嵌入模型,微调后的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 成本低廉,尤其适合混合搜索和检索重排场景。
NVIDIA Llama Nemotron Nano VL 已上架 Hugging Face,这是一款 8B 视觉语言模型,面向智能文档处理与 OCR。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、Transformers.js、Ollama、Google AI Edge 等主流开源库上线,共发布 gemma-3n-E2B 与 gemma-3n-E4B 两种尺寸,各有 base 和 instruct 变体。
推荐理由:原文给出 Gemma 3n 的端侧内存占用、多模态编码器与各开源库集成方式,可据此判断本地部署门槛。
SGLang 现已支持 Hugging Face transformers 作为后端,可直接运行任意 transformers 兼容模型,无需原生支持,通过设置 impl="transformers" 即可启用。
Hugging Face 发布教程,演示用 diffusers 库以 QLoRA 在单卡上微调 FLUX.1-dev,峰值显存约 9GB,可学习 Alphonse Mucha 艺术风格。
推荐理由:以 FLUX.1-dev 为例给出 QLoRA、8-bit 优化器、梯度检查点等组合,把微调峰值显存压到约 9GB。
Groq 正式加入 HF Mirror Hub 的 Inference Providers,为模型页面提供无服务器推理。Groq 支持 Meta Llama 4、Qwen QWQ-32B 等开源模型,其核心 LPU 专为 LLM 推理设计,延迟更低、吞吐更高。用户可在账户设置中配置 Groq API key 直连,或通过 HF 路由调用,PRO 用户每月获 $2 推理额度。
TNG 在 24 块 H100 上自托管大量 LLM,服务超 50 个应用、每天消耗逾 1 亿 token 并生成超 1000 万 token。由于 vLLM 默认的 chunked-prefill 会为单个请求顺序调度 prefill,一个长提示词即可阻塞后续请求的 prefill 队列,抬高首 token 延迟。
Featherless AI 已接入 HF Mirror Hub 的 Inference Providers,其无服务器推理可直接用于模型页面及 JS、Python 客户端 SDK。
Hugging Face 推出 Kernel Hub,让 Python 库和应用直接从 Hub 加载预编译优化计算内核,用 `get_kernel("kernels-community/flash-attn")` 一行即可启用 FlashAttention,无需自行编译。
NVIDIA 发布 Isaac GR00T N1.5 后给出教程,演示如何用单台 LeRobot SO-101 机械臂的遥操作数据对模型做 post-training 微调。
Hugging Face 与 NVIDIA 合作推出 Training Cluster as a Service,让全球研究机构按需申请 GPU 集群并按训练时长付费,Hugging Face 上 25 万家组织可提交需求。
Hugging Face 发布 ScreenSuite,称其为面向 GUI Agent 最全面的评测套件,整合 13 个基准,覆盖感知、Grounding、单步动作与多步智能体四类能力。
推荐理由:原文给出 13 个基准的构成与纯视觉评测设定,可据此了解 GUI Agent 评测如何统一与本地复现。
Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching,使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库,KV Cache 在 Attention 块、语言模型层和生成循环三处启用,把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。
Arm 工程师 Michael Gamble 用 Stability AI 的 Stable Audio Open 模型,在 Arm CPU 上构建了完全本地运行的个人音效生成工具,无需 GPU 和云端推理,几秒内即可根据文字提示生成 .wav 文件并直接送入 Ableton Live。