Ettin Reranker 系列发布六个 CrossEncoder 重排模型
作者发布六款 Sentence Transformers CrossEncoder 重排模型(17m、32m、68m、150m、400m、1b),基于 Ettin ModernBERT 编码器,采用对 mixedbread-ai/mxbai-rerank-large-v2 打分的逐点 MSE 知识蒸馏训练。
作者发布六款 Sentence Transformers CrossEncoder 重排模型(17m、32m、68m、150m、400m、1b),基于 Ettin ModernBERT 编码器,采用对 mixedbread-ai/mxbai-rerank-large-v2 打分的逐点 MSE 知识蒸馏训练。
PaddleOCR 3.5 支持通过设置 engine="transformers",让 PP-OCRv5、PaddleOCR-VL 1.5 等模型以 Hugging Face Transformers 作为推理后端运行,并可通过 engine_config 配置 dtype、设备与 attention 实现。
Hugging Face 发布 Granite Embedding Multilingual R2 两款 Apache 2.0 多语言嵌入模型,均基于 ModernBERT。
Hugging Face 博客发布第二篇高效 LLM 推理系列文章,讲解如何在连续批处理中实现异步化:将 CPU 的批准备与 GPU 的计算解耦,用 H2D、compute、D2H 三个非默认 CUDA 流配合 CUDA event 跨流同步,并处理双缓冲防数据竞争与 carry-over 传递新 token。
推荐理由:以 CPU 与 GPU 串行浪费为主线,给出三流分离与 CUDA event 同步的异步批处理实现思路,可迁移到长序列推理部署优化。
Hugging Face 与 Appen Inc.、DataoceanAI 合作,为 Open ASR Leaderboard 引入高质量英语 ASR 私有数据集,涵盖多口音的朗读与对话语音,以防止 benchmaxxing 或测试集污染。排行榜默认平均 WER 仍仅基于公开数据集计算,用户可手动开启开关查看私有数据集的影响。该榜单自 2023 年 9 月上线以来访问量已超 710K 次。
IBM Granite 团队发布 Granite 4.1 系列稠密解码器 LLM,包含 3B、8B、30B 三个规模,基于约 15T token 训练,采用五阶段预训练流程并将上下文窗口扩展至 512K token,全部以 Apache 2.0 许可开源。
推荐理由:原文披露了 Granite 4.1 从预训练到多阶段 RL 的完整训练配方,以及 8B 稠密模型追平上一代 32B-A9B MoE 的对比结果。
DeepInfra 已作为推理服务商接入 HF Mirror Hub,平台上的 serverless 推理生态进一步扩大。
NVIDIA 发布 Nemotron 3 Nano Omni 全模态理解模型,在文本、图像基础上加入原生音频与视频理解,覆盖文档分析、语音识别、长音视频理解、GUI 智能体和通用多模态推理五类任务。
推荐理由:原文给出了架构细节、多模态基准成绩与吞吐数据,读者可据此判断开源全模态模型在文档、音视频与 GUI 智能体场景的可用性。
OpenAI 本周在 Hub 上发布 Privacy Filter,一个开源 PII 检测器,单次前向传播即可在 128k 上下文中标注八类信息。它是 1.5B 参数、50M 激活参数的模型,Apache 2.0 许可,在 PII-Masking-300k 基准上达到 SOTA。
DeepSeek 发布 V4,Hub 上有 DeepSeek-V4-Pro(1.6T 总参数、49B 激活)和 DeepSeek-V4-Flash(284B 总参数、13B 激活)两个 MoE checkpoint,均支持 1M-token 上下文窗口。
推荐理由:原文拆解了 V4 混合注意力与工具调用后训练设计,可判断长上下文智能体工作负载的成本取舍。
Hugging Face 发布基于 Gemma 4 E2B 的 Transformers.js 浏览器扩展,演示如何在 Manifest V3 约束下本地运行 AI。
Hugging Face 发布 QIMMA,一个先对基准本身做质量验证、再评测模型的阿拉伯语 LLM 排行榜,整合 14 个来源基准的 109 个子集、超 52,000 条样本,覆盖 7 个领域,其中 99% 为原生阿拉伯语内容。
在 Mythos 与 Project Glasswing 发布后,Hugging Face 发文讨论 AI 网络安全格局,指出真正起作用的是"大算力模型 + 软件相关数据训练 + 漏洞探测与修补脚手架 + 一定程度的系统自主性"这套系统配方,而非单个模型。文章认为开源代码与工具能让防御方获得与攻击方同级的 AI 能力,缩小双方的能力不对称。
Sebastian Raschka 分享了他绘制 LLM 架构图的工作流:先从官方技术报告入手,但如今论文细节常不如以往,尤其工业实验室的开源权重模型。若模型权重发布在 Hugging Face Model Hub 且被 Python transformers 库支持,可直接查看 config 文件与参考实现,"能跑通的"代码不会说谎。
Hugging Face 发布一个 Skill 和配套的非智能体测试框架,帮助把语言模型从 transformers 移植到 mlx-lm,让模型加入 transformers 后能很快在 MLX 上可用。
Hugging Face 将 RLVE 框架扩展到多轮、工具增强的电商对话,推出 EcomRLVE-GYM,包含商品发现、替代品、购物车搭建、退货、订单跟踪、政策问答、捆绑规划和多意图旅程 8 个可验证环境。
微调 Qwen/Qwen3-VL-Embedding-2B 做视觉文档检索(VDR),在作者评测数据上 NDCG@10 从基座的 0.888 提升到 0.947,超过其测试的所有现有 VDR 模型,包括体积达 4 倍的模型。
Hugging Face 发布 VAKRA,一个基于工具的可执行基准,用于评估 AI 智能体在类企业环境中的推理与行动能力。VAKRA 提供 8000+ 本地托管 API 与覆盖 62 个领域的真实数据库,包含 API 链式调用、工具选择、多跳推理等四类任务,推理链需 3-7 步,且模型整体表现较差。
Hugging Face 发布 Sentence Transformers v5.4,可在同一套 API 下编码和比较文本、图像、音频与视频,用于视觉文档检索、跨模态搜索和多模态 RAG。
推荐理由:官方博客给出 Sentence Transformers v5.4 多模态嵌入与重排序的完整代码用法和模型清单,可直接照抄跑通流程。
Overworld 发布新一代实时视频世界模型 Waypoint-1.5,在 RTX 3090 至 5090 等桌面硬件上可生成最高 720p、60 FPS 的实时环境,并新增面向更广泛消费级硬件的 360p 档位。
推荐理由:Waypoint-1.5 用 720p/360p 双档位和消费级硬件本地运行把实时世界模型从演示推向可用。
Safetensors 已加入 PyTorch 基金会,成为 Linux 基金会下托管项目,与 DeepSpeed、Helion、Ray、vLLM 和 PyTorch 并列,商标、代码仓库与治理权归属 Linux 基金会而非任何单一公司。
TII 的 Falcon Vision 团队发布 Falcon Perception,一个 0.6B 参数的早期融合 Transformer,用自然语言提示做开放词表定位与分割,图像与文本从第一层起共享参数。
推荐理由:原文用 SA-Co 与自建 PBench 的分数拆解了早期融合单骨干相对模块化流水线的收益与短板。
Gradio 发布 gradio.Server,扩展 FastAPI,在原路由基础上叠加 Gradio 的 API 引擎,提供排队、SSE 流式、并发控制和 gradio_client 兼容。
推荐理由:Gradio 新 Server 模式把排队、并发与 ZeroGPU 能力开放给任意前端框架,读者可据此评估自建前端的后端选型。
IBM 发布 Granite 4.0 3B Vision,一款面向企业文档理解的紧凑型视觉语言模型,以 LoRA 适配器形式挂载在 Granite 4.0 Micro 之上,在 Hugging Face 以 Apache 2.0 许可开放。
推荐理由:IBM 以 LoRA 适配器形式发布 3B 文档视觉模型,并给出图表与表格抽取的对比基准,便于判断小模型在企业文档场景的可用性。
Hugging Face 发布 TRL v1.0,将这个始于六年前、目前每月下载 300 万次的研究代码库正式定位为生产级后训练库,并引入语义化版本稳定性契约。
Anthropic 限制 Pro/Max 订阅者在开放智能体平台中使用 Claude 模型,Hugging Face 博客给出把 OpenClaw、Pi、Open Code 等智能体迁移到开源模型的两条路径。
Hugging Face 推出端到端语音智能体评测框架 EVA,首次同时评估任务成功率与对话体验,输出 EVA-A(准确率)和 EVA-X(体验)两项分数,并基于 bot-to-bot 实时音频架构模拟多轮完整通话。首批发布含 50 个航司场景数据集(覆盖航班改签、取消、代金券等),并对 20 个级联与音频原生系统(如 S2S 模型、LALM)给出基准结果,发现准确率与体验之间存在一致的权衡。
NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。
推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。
Hugging Face 发布 2026 春季开源 AI 生态分析,基于平台数据复盘过去一年竞争格局、地理分布、技术趋势与新兴社区。2025 年平台用户增至 1300 万,公开模型超 200 万个,公开数据集超 50 万个;中国模型占过去一年下载量的 41%,行业开发占比从 2022 年前的约 70% 降至 2025 年的约 37%。
推荐理由:Hugging Face 官方以平台数据复盘开源 AI 一年变化,可用于判断开源生态的重心与集中度。
H Company 发布 Holotron-12B,一个基于 NVIDIA Nemotron-Nano-2 VL 后训练的多模态 computer-use 模型,已在 Hugging Face 以 NVIDIA Open Model License 开放。
推荐理由:Holotron-12B 给出混合 SSM 架构在 Agent 长上下文并发下的吞吐对比,可据此判断 computer-use 模型的部署取舍。
Hugging Face 在 Hub 上推出 Storage Buckets,一种面向生产 ML 中途产物的可变对象存储,可浏览、通过 Python 调用或用 hf CLI 管理。
Hugging Face 对 16 个开源强化学习库做了横评,梳理出异步 RL 训练的通用架构:把推理与训练拆到不同 GPU 池、用 rollout buffer 连接并异步同步权重,避免生成期训练 GPU 空转。
Snowflake AI Research 的 Ulysses 序列并行(属 Arctic Long Sequence Training 协议)通过将注意力头拆分到多 GPU,解决超长上下文的显存瓶颈。
Hugging Face 的 LeRobot 发布 v0.5.0,自 v0.4.0 以来合并 200 多个 PR、新增 50 多位贡献者,是其迄今规模最大的版本。
推荐理由:LeRobot v0.5.0 一次性补齐人形机器人、自回归 VLA 策略与流式数据录制,读者可据此判断开源机器人栈的推进速度。
Hugging Face 发布 NXP 的嵌入式机器人 AI 实操指南,覆盖数据集录制、VLA 策略微调(ACT 与 SmolVLA)及端侧优化。指南建议采用顶视、夹爪、左视三摄像头配置,按 10×10 cm 划分 11 个工作区簇、每簇至少录制 10 个 episode,并用 20% 恢复型 episode 提升成功率。
Hugging Face 发布 Modular Diffusers,用可复用 block 组合扩散流水线,作为 DiffusionPipeline 的灵活替代方案,支持添加、删除和替换 block,并可用 .init_pipeline() 把 block 转为可运行流水线。
推荐理由:原文给出可组合模块的 API 写法与自定义 block 示例,读者可据此判断现有扩散流水线能否改造成模块化流程。
Hugging Face 博客发布 PRX 系列第三篇,用 32 张 H200、约 1500 美元算力预算(2 美元/小时/GPU)在 24 小时内完成文本到图像扩散模型训练。该方案堆叠 x-prediction 像素空间训练、LPIPS 与 DINOv2 感知损失、TREAD token 路由、REPA 对齐及 Muon 优化器,并开源训练代码。
Hugging Face 发布长文,介绍 transformers 库为支持 MoE 稀疏架构所做的改造,涵盖权重加载重构、专家后端、专家并行与 MoE 训练四部分。
Hugging Face 宣布 GGML 及其创建的 llama.cpp 加入 HF,Georgi Gerganov 团队的目标是让未来 AI 保持开放,并为 ggml 与 llama.cpp 社区提供规模化和支持。
推荐理由:GGML 团队加入 HF 后,llama.cpp 的维护自主权与长期资源安排是本地推理生态的关键变化。
Hugging Face 发布教程,介绍如何通过 Claude Code、Codex 等编码智能体结合 Unsloth 与 Hugging Face Jobs 微调小模型(示例为 LiquidAI/LFM2.5-1.2B-Instruct)。
推荐理由:原文给出从安装 Skill 到提交 HF Jobs 的完整命令与分档价格,读者可照此复现小模型微调流程。