NVIDIA Run:ai 现已开源,纳入 NVIDIA DSX AI Factory 平台
NVIDIA 将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。该版本让 Run:ai 成为 NVIDIA DSX AI Factory 平台的开源基础,使更广泛的生态能够推出差异化解决方案。
NVIDIA 将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。该版本让 Run:ai 成为 NVIDIA DSX AI Factory 平台的开源基础,使更广泛的生态能够推出差异化解决方案。
在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型,可让应用从固定选项集中直接输出概率分数,而不必生成文本答案。AWS 的 llama.cpp DLC 支持通过 OpenAI 兼容的 Chat Completions 接口调用,扩展方案 SemIf 则返回 option_ids、probabilities 与 raw option_logits。
微软发布开源离线基准 ReviewBench,用于评估 AI 代码审查智能体的表现,基于 GitHub 上 103.9M 个真实 pull request 的分布构建。
Hugging Face 开源 AstaBrief 8B,一个基于 Qwen3-8B 微调、可将研究问题与检索文献片段生成带引用报告的模型。
ServiceNow CoreAI 构建了 AutoSynthData,用目标模型的失败案例与更强教师模型的成功轨迹定位能力缺口,再生成并验证新的可执行任务用于后训练,课程随模型进步向剩余难点迁移。
NVIDIA 发布 Do Inference Now (DIN) Deploy,一个开源 C++ 示例集合,将 ONNX Runtime 与 NVIDIA TensorRT RTX 执行提供程序结合,帮助开发者把模型 checkpoint 转到本地原生应用。该示例面向需要可移植模型格式、可靠运行时和跨目标系统加速的本地 AI 场景。
NVIDIA TensorRT Model Connect 是基于 NVIDIA TensorRT 构建的开源 C++ AI 模型参考实现集合,整个项目围绕编码智能体设计。项目采用并行工作、模型家族隔离、可回滚变更和 GPU 验证等做法,目标是让 NVIDIA 推理栈的性能更易于使用。
Hugging Face Hub 新增 RL Environments 筛选器,带 rl-environment 标签的数据集可直接在页面生成运行命令,无需新建仓库类型、注册表或注册。
Meta 开源了 Rebalancer,一个已在其内部用于资源分配问题超过九年的分配问题求解器。该库将问题描述与求解分离,提供对象、bins、约束和目标组成的描述语言,并转换为表达式图,可用局部搜索启发式或商业求解器 FICO Xpress、Gurobi 及开源求解器 HiGHS 构建 MIP 求解。相关论文已发表于 OSDI'24。
微软在 Nature 发表逆合成模型 RetroChimera,并开源其实现与权重。该模型将基于 Transformer 的 R-SMILES 2 与基于图神经网络、使用反应模板的 NeuralLoc 结合,通过学习式集成对两者预测重新排序,性能在常见与稀有反应类别上均超越任一子模型。
Hugging Face 发布 tokenizers v1,在保持与 v0.23 相同 token ID、API 和词表的前提下重写编码流水线,速度常达 v0.23 的数十倍。重构包括 workspace 拆分、无分配 merge、用 SIMD 位运算替代正则拆分(bitcannon)、merge 循环改为侵入式双向链表、单词缓存和原生多线程并行。
Hugging Face 推出 NeoMME,包含 260M 和 800M 两个多语言多模态编码器,不用独立预训练视觉塔或因果语言模型,由单个双向 Transformer 同时处理文本 token 与原始图像 patch,并以掩码离散扩散目标从零训练。
一份公开教程用 TRL 的 GRPO 对 LFM2.5-350M 做微调,仅约 500 条样本、100 个训练步,就把 IFStruct 基准成绩从 22.6% 提升到 29.7%。
Hugging Face 发布 BenchMIRT,一种在单条题目层面审计 LLM 基准的方法,基于多维 IRT 从 100 个 LLM、16 个基准、超 34K 道题的评测结果中自动分离出安全与通用推理两个维度。
微软研究院推出 GigaPath-Flash 和 GigaTIME-Flash 两款高效病理基础模型,均以 Apache 2.0 许可证开放。
Hugging Face 的 OlmoEarth Studio 现支持计算并导出由开源 OlmoEarth 基础模型生成的地球观测嵌入向量,输出为 Cloud-Optimized GeoTIFF(COG),向量以 int8 存储、每维一个波段。
Multiverse Computing 发布论文《Efficient Knowledge Distillation for LLMs: Offline Top-K Logits and a Fused Chunked KL Loss》。
NVIDIA 发布开源视觉语言模型 Ising Calibration 1.5,可解读量子处理器的诊断输出并判断其调优方式,实现基于 AI 的 QPU 自动校准。该版本增强了上下文学习能力,无需先前的训练样本即可分析陌生的诊断结果。
Diffusers 现已原生加载 Nunchaku 4-bit 量化检查点,只需 from_pretrained() 调用,无需本地 CUDA 编译,CUDA kernel 经 kernels 包从 Hub 下载。
PyTorch 官方博客 "Profiling in PyTorch" 系列第三篇聚焦 attention,通过 naive attention、inplace 因果掩码、SDPA 和自定义 kernel 四种实现对比 profiler 追踪结果。
MIT 团队推出 FloatForm,一个由 21 厘米见方的小型方形机器船组成的集群系统,可自主拼装成刚性结构、拆解并重组为新构型。实验中海量 8 艘机器船从随机位置聚合、锁定、按指令分离并整体航行,单次耗时 4-8 分钟,仿真验证可平滑扩展至 64 艘;其去中心化方法让规划复杂度只取决于局部邻居而非集群总规模。
LeRobot 发布 v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。
推荐理由:原文给出世界模型策略、奖励模型 API 与六个仿真基准的完整清单,读者可据此判断机器人学习闭环的现有工具面。
Hugging Face 的 Kernels 项目迎来重大更新,Hub 新增 "kernel" 仓库类型,并引入可信发布者机制与代码签名,默认只加载可信发布者的 kernel,加载其他来源需显式传入 trust_remote_code。
Hugging Face 发布开源基准 ScarfBench,用于评测 AI 智能体在企业 Java 跨框架迁移中的表现,覆盖 Spring、Jakarta EE、Quarkus 三大生态。
Hugging Face 团队提出 DiScoFormer(Density and Score Transformer),单次前向传播即可同时估计分布的密度与 score,无需针对新分布重新训练。
Hugging Face 将 huggingface_hub 的发布流程从每 4 到 6 周一次改为每周一次,全部由一个 GitHub Actions workflow 驱动。
PaddleOCR 的 PP-OCRv6 已在 HF Mirror 上线,提供 tiny、small、medium 三档模型,参数规模从 1.5M 到 34.5M,其中 medium 和 small 单模型支持 50 种语言。
AWS 开源的 Strands Robots SDK 将 LeRobot 相关的数据录制、策略推理和机器人抽象封装成 AgentTools,可组合成单个 Strands agent,把 Hub 上的数据集一路走到物理机器人。
推荐理由:完整走通从 Hub 数据集到真机的一条 Agent 流水线,说明仿真与硬件数据共用同一格式后,训练脚本可以不加改动地互换使用。
DharmaOCR 团队将直接偏好优化(DPO)用于结构化 OCR 而非聊天对齐,用模型自身失败输出构建拒绝对,在所有测试模型家族中均降低了文本退化,平均降幅 59.4%,最高 87.6%(Nanonets-OCR2–3B 从 1.61% 降至 0.20%)。监督微调(SFT)虽能降低多数模型的退化率,但很少达到生产可接受水平,因为其目标并不显式惩罚重复循环。
JetBrains 发布 Mellum2,一个从零训练、总参数 12B、每 token 仅激活 2.5B 的 MoE 模型,面向自然语言与代码任务,采用 Apache 2.0 许可证开源。官方称其推理速度比同规模模型快 2 倍以上,可用于路由、RAG、摘要、子智能体及私有化部署。模型已上线 Hugging Face,完整技术报告同步发布。
Hugging Face 发布 OlmoEarth v1.1 地球观测模型系列,通过将 Sentinel-2 各分辨率合并为单一 token 缩短序列长度,在保持 v1 性能的同时将计算成本最多降低 3 倍。该系列提供 Base、Tiny、Nano 三种规模,权重与训练代码均已开放,部分任务存在性能回退。
Hugging Face 发布 Granite Embedding Multilingual R2 两款 Apache 2.0 多语言嵌入模型,均基于 ModernBERT。
OpenAI 本周在 Hub 上发布 Privacy Filter,一个开源 PII 检测器,单次前向传播即可在 128k 上下文中标注八类信息。它是 1.5B 参数、50M 激活参数的模型,Apache 2.0 许可,在 PII-Masking-300k 基准上达到 SOTA。
Hugging Face 发布 QIMMA,一个先对基准本身做质量验证、再评测模型的阿拉伯语 LLM 排行榜,整合 14 个来源基准的 109 个子集、超 52,000 条样本,覆盖 7 个领域,其中 99% 为原生阿拉伯语内容。
Berkeley AI Research 提出 SPEX 和 ProxySPEX,用于在大规模 LLM 中识别驱动模型输出的关键特征、数据与内部组件交互。SPEX 利用交互的稀疏性和低阶性,将搜索问题转化为稀疏恢复问题,可扩展到比既有方法大几个数量级的规模;ProxySPEX 进一步利用层次结构,以约少 10 倍的消融次数达到与 SPEX 相当的性能。
SyGra 2.0.0 推出 Studio,把合成数据生成从 YAML 文件和终端搬到可视化画布上,配置流程时同步生成 SyGra 兼容的 graph config 与任务执行脚本。
Gradio 团队发布开源 Python 库 Daggr,用于把 Gradio 应用、ML 模型和自定义函数串成 AI 工作流,代码定义后自动生成可视化画布。画布支持检视任意节点输出、修改输入并单独重跑某一步,无需执行整条流水线,还能用备份节点替换模型或 Space,并自动保存工作流状态。
推荐理由:Gradio 团队开源 Daggr,用代码定义工作流并自动生成可检视的画布,为多步骤 AI 流程的调试提供了新思路。
Hugging Face 推出 AprielGuard,一个 8B 参数的安全护栏模型,可检测 16 类安全风险与提示注入、越狱、记忆投毒、多智能体攻击等对抗攻击,并覆盖工具调用和推理链等智能体工作流场景。该模型支持推理与非推理两种模式,兼顾可解释分类与生产环境的低延迟需求。
llama.cpp server 新增 router 模式,无需重启即可动态加载、卸载和切换多个模型。该功能回应了把 Ollama 式模型管理引入 llama.cpp 的需求,采用多进程架构,每个模型独立运行,单个模型崩溃不影响其他模型。
Hugging Face 发布 Swift 包 swift-huggingface,为 HF Mirror Hub 提供完整客户端,可独立使用,后续将替换 swift-transformers 现有的 HubApi 实现。