用更少 token 实现 ACE:ALTK-Evolve 在 AppWorld 上以约四成成本取得更高完成度
IBM 研究团队提出 ALTK-Evolve,与 ACE 一样让智能体从自身轨迹中学习经验并在推理时注入,不做权重更新也不需要人工标注,区别在于经验的交付方式。
IBM 研究团队提出 ALTK-Evolve,与 ACE 一样让智能体从自身轨迹中学习经验并在推理时注入,不做权重更新也不需要人工标注,区别在于经验的交付方式。
MIT CSAIL 与清华大学提出预训练方法 GeoPT,通过 130 万个"合成动力学"样本让仿真模型学习物理交互,峰值性能达成速度提升 2 倍、训练数据减少最多 60%。该方法可模拟车辆、飞机、船舶受风、水、碰撞等力的响应,在工业基准上速度和精度超过现有仿真模型。
Multiverse Computing 发布论文《Efficient Knowledge Distillation for LLMs: Offline Top-K Logits and a Fused Chunked KL Loss》。
Google DeepMind 在 Nature 发表论文,称 WeatherNext AI 模型在气旋路径、强度和风场结构预测上达到 SOTA,平均比分先模型多出超过一整天的预警提前量,三天预报精度相当于过去两天。
推荐理由:原文给出气旋路径与强度预报的量化领先幅度,以及模型权重开源的具体范围,读者可据此判断气象预报的 AI 替代空间。
Meta 为广告排序提出多阶段序列模型架构,将重的离线用户建模与轻量的在线排序解耦,并引入稠密 tokenization 与 target-aware 注意力直接学习特征交互。
MIT 团队在《Joule》发表论文,用 AI 引导算法在 24 小时内设计出 10 万个候选分子,从中筛选出比 DMTMSA 更小的溶剂 DMFSA,同时兼顾钠金属电池的快充性能与长期稳定性。钠的储量约为锂的 1000 倍,单位成本仅为锂的约百分之一,但钠金属高反应性此前难以兼顾快充与循环寿命,DMFSA 在 27 个候选溶剂的对比测试中表现最佳。
NVIDIA 提出 World Action Models,用于解决机器人策略泛化难题:传统策略在训练场景有效,物体形状、位置或光照变化后往往失效。该模型通过让策略理解任务背后的物理规律而非模仿演示,从而泛化到新条件,这一能力来自其骨干网络。
NVIDIA 推出 Alpamayo 2 Super,一个开放 340 亿参数的推理视觉模型,可在自动驾驶开发中统一生成轨迹、高层意图预测、场景理解与数据标注,替代此前各环节分立的模型。该模型支持在同一套表示上对比相关输出、排查模型行为,并复用至整个开发流程。
NVIDIA 公布 Vera Storage 基准测试结果,针对智能体 AI 工作流中的加密、压缩、完整性校验与恢复性能进行评测。该存储需持续支撑企业知识检索、持久内存访问和 KV cache 复用等操作,每个智能体步骤可能触发多次存储操作并在流程中重复。
NVIDIA nvmath-python 是一个衔接 Python 科学计算生态与 NVIDIA CUDA-X 数学库的库,让 Python 用户在不改变现有工作流的前提下获得 CUDA-X 性能。视不同 API,运算可运行在 CPU、支持 CUDA 的 GPU,或分布式多 GPU、多节点系统上。
NVIDIA 指出,采用相同 H100、GB200 NVL72 或 GB300 NVL72 的两套 AI 集群,在同一工作负载、模型和全局 batch size 下,训练吞吐量常出现 8% 到 12% 的差距,原因多来自内核层面的配置选择。NVIDIA 通过 Exemplar Cloud 总结在 AI 基础设施上释放完整性能的经验。
MIT 与波士顿 Beth Israel 医院的研究者 1975 年起收集并数字化心电图记录,1980 年完成逾 10 万条标注,最初预计只有十几个机构使用,十年间邮寄出约 100 份拷贝。
NVIDIA 提出以 GPU 原生医学物理仿真开发医疗机器人,应对医疗机器人无法像自动驾驶或工业机器人那样依赖互联网规模数据采集和无限真实世界实验的问题。该领域每次演示都需要专用设备、临床专业知识和患者或实验室环境,由此带来数据缺口等三大挑战,仿真成为训练现代机器人策略的途径。
随着 AI 负载增长,算力需求激增正推动半导体行业追求前所未有的性能目标,即便是小幅延期也会在快速迭代的 AI 硬件周期中造成巨大财务影响。同时,行业正从芯片级优化转向系统级工程,散热与功耗挑战随之叠加。NVIDIA 认为应对这些需求需要在材料工程与制造环节取得突破。
伯克利 AI 研究提出 ABBEL 框架,将 LLM 的摘要以自然语言"信念状态"形式隔离并监督其信息内容,通过类自编码器的信念评分奖励能重建最新观测的摘要。在协作编程基准 CollabBench 上,ABBEL-rec-BG 把与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值上下文 token 数也低于全上下文设置。
NVIDIA 推出 ModelExpress,用于在集群内高速分发模型文件。随着模型 checkpoint 增长到数百 GB 乃至 1 TB,冷启动拉取权重、自动扩缩容与滚动更新填充新副本、RL 后训练持续搬运权重等场景让传输开销迅速累积。
NVIDIA 发布指南,介绍如何通过 Prime Intellect Lab 在几分钟内定制 NVIDIA Nemotron 3 Nano,把通用模型适配到具体用例、领域和语言。定制需要 GPU 等基础设施、技术专长与针对工作流的软件,以及对特定领域专业知识的依赖。
MIT 电子工程与计算机科学系荣休教授、LIDS 首席研究员 Dimitri Bertsekas 于 6 月 3 日在马萨诸塞州 Belmont 家中去世,享年 83 岁。他的研究横跨优化、控制、大规模计算、强化学习与人工智能,并撰写或合著逾 20 本高影响力著作,其中与 John Tsitsiklis 合著的神经动态规划一书预先勾勒出后来强化学习的诸多核心思想。
NVIDIA GB300 NVL72 在预训练 DeepSeek-V3 671B 时创下每 GPU 1,648 TFLOPs 的世界纪录。随着前沿模型预训练转向 MoE 架构,每 token 计算量下降,通信效率日益决定模型在数千块 GPU 上的扩展表现。
NVIDIA 发文介绍 NVLink 作为 AI 工厂的 Scale-Up 网络。随着 AI 负载规模扩大、模型日趋复杂,AI 工厂这类数据中心级系统正被加速部署,以持续将数据和能源转化为智能。NVLink 正是为满足这一算力基础设施需求而设计的网络方案。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,从预防、检测、响应三方面推进:对 Gemini 等模型执行威胁建模、评估、缓解与监控四步安全流程,并尝试将 SynthID 水印技术用于生物学以筛查 AI 生成的 DNA 序列。
MIT 等机构研究人员开发出 GIFT(Geometric Inference Feedback Tuning)系统,教视觉语言模型自动把 2D 设计转换为可直接执行的 CAD 程序,精度更高且只用约 20% 的算力。
MIT Media Lab 的 Pat Pataranutaporn 与研究生 Anthony Baez、Sheer Karny 提出「神经透明」,通过对比模型内部激活得到共情、诚实、毒性、幻觉、谄媚等「行为方向」,把用户系统提示词对应的激活投影为旭日图,在对话开始前预览聊天机器人性格。
IBM Research 分享将模型路由构建进智能体系统的经验,指出路由通常被当作分类问题,实际却是系统优化问题。
Hume 推出 Real World VoiceEQ 语音 AI 基准,覆盖 40 多个主流闭源与开源语音模型,横跨 ASR、TTS、S2S 与语音理解四类共 15+ 维度、60+ 指标。
MIT 航空航天系在 2026 春季学期举办 JARVIS Challenge,让 31 名本科生分成 7 队,用四周时间借助 AI 设计、制造、组装并测试一台推力 50–100 磅、使用 Jet-A 燃料的小型单轴喷气发动机。
UC Berkeley 团队提出近零推理成本将带来三类数据系统挑战:为智能体(Data Systems For Agents)、由智能体运行(Of Agents)、由智能体合成(By Agents)。文中举例指出,GPT-4 级能力在 2023 年初约 $30/百万 token,如今已降至 1 美元以下,部分厂商低于 $0.10,推理价格年降幅在 9 倍到 900 倍之间,中位数约 50 倍。
Hugging Face 与 SkyPilot 联合推出 hf:// 挂载能力,可将 Hugging Face Bucket 或模型、数据集仓库挂载进 SkyPilot 任务,在 20 多个云、Kubernetes、Slurm 和本地环境中运行 GPU 作业。
推荐理由:原文给出了 hf:// 挂载方式和跨云零出站读取的实测吞吐数据,读者可据此判断多云端 GPU 训练的存储成本变化。
LeRobot 发布 v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。
推荐理由:原文给出世界模型策略、奖励模型 API 与六个仿真基准的完整清单,读者可据此判断机器人学习闭环的现有工具面。
Hugging Face 发布 PRX 系列第四篇,详解其数据策略:从公开与内部数据集混合构建训练语料,用 VLM 重新生成图片长描述,并借助 Mosaic Streaming 与 Lance 完成流式训练和数据管理。PRX 将文本编码器换成 Qwen3-VL,改为训练时实时计算文本 latent,仅带来约 3–4% 吞吐损失。图片统一以 JPEG 质量 92 编码,实测首次重编码几乎无感知损失。
MIT News 专访 MIT EECS 副教授、CSAIL 成员 Phillip Isola,解析智能体 AI 与 ChatGPT、Claude 等生成式 AI 的区别。
Hugging Face 团队提出 DiScoFormer(Density and Score Transformer),单次前向传播即可同时估计分布的密度与 score,无需针对新分布重新训练。
NVIDIA 发布开源库 NeMo AutoModel,基于 HuggingFace Transformers v5 构建,为 MoE 模型微调带来 3.4-3.7 倍训练吞吐提升和 29-32% 显存下降,只需改动一行 import,无需修改其余 API 调用。
Hugging Face 博客发布 MosaicLeaks 基准,用 1001 条交错公私信息的多跳研究链检验深度研究智能体的隐私泄漏,并区分意图、答案、全信息三类泄漏。其提出的隐私感知训练方法 PA-DR 将严格链成功率从 48.7% 提升到 58.7%,同时把答案/全信息泄漏率从 34.0% 降到 9.9%。测试显示仅按任务表现训练会加剧泄漏。
Hugging Face 在其 PEFT 库中新增统一的微调基准,对 40 多种参数高效微调(PEFT)技术使用相同基座模型、数据集和硬件进行对比,结论是 LoRA 并非总是最优选择。
PyTorch 性能剖析系列第二部分用 nn.Linear(bias=True)替换手写的 matmul-add,再堆叠三层并加入激活构成 MLP,在 NVIDIA A100-SXM4-80GB 上分析 profiler trace。
Google DeepMind 发布在塞拉利昂开展的预注册对照试验结果,使用 Guided Learning 的学生数学成绩比对照组提高 0.258 个标准差,约相当于八周内取得 1.2 至 1.7 年的常规学习进步;教师将 Gemini 用于约一半课时目标 12 小时的班级增益更高,约 1.8 至 2.5 年。
推荐理由:Google DeepMind 在塞拉利昂的预注册 RCT 显示 Guided Learning 带来约 1.2 至 1.7 年数学学习增益,并公开了实现方法。
DharmaOCR 团队将直接偏好优化(DPO)用于结构化 OCR 而非聊天对齐,用模型自身失败输出构建拒绝对,在所有测试模型家族中均降低了文本退化,平均降幅 59.4%,最高 87.6%(Nanonets-OCR2–3B 从 1.61% 降至 0.20%)。监督微调(SFT)虽能降低多数模型的退化率,但很少达到生产可接受水平,因为其目标并不显式惩罚重复循环。
企业 AI 试点普遍失败,症结在于智能体缺乏引导逻辑。IBM 用 Agent 逻辑(知识图谱、程序分析库等)在智能体层缩小上下文,测试显示:watsonx Code Assistant for Z 在百万行代码级遗留系统上保持略优理解性能,token 消耗降低约 30 倍;Aster 在 75+ Java 应用中使行、分支、方法覆盖率提升 20%-45%,token 消耗最多降低 15 倍。
Hugging Face 在 TRL 中提交 PR,用增量权重同步替代异步强化学习中的全量权重传输:两次 RL 优化步之间约 99% 的 bf16 权重字节完全一致,只把变化的元素编码成稀疏 safetensors 文件上传到 HF Bucket,再让 vLLM 拉取。
推荐理由:Hugging Face 把异步强化学习的权重同步从全量广播改成稀疏增量,并给出可下载运行的实现,读者可以据此判断跨机房训练的门槛变化。