NVIDIA BioNeMo Inference Runtime 实现高通量结构预测
NVIDIA BioNeMo Inference Runtime(BioIR)可在 NVIDIA GPU 上加速受支持的生物分子结构预测模型,同时保留熟悉的 PyTorch 工作流。它通过优化 kernel,并在适用场景下使用 CUDA Graphs 来加速模型推理,目标是把整个工作列表高效跑完现有的蛋白质组级别预测流程。
NVIDIA BioNeMo Inference Runtime(BioIR)可在 NVIDIA GPU 上加速受支持的生物分子结构预测模型,同时保留熟悉的 PyTorch 工作流。它通过优化 kernel,并在适用场景下使用 CUDA Graphs 来加速模型推理,目标是把整个工作列表高效跑完现有的蛋白质组级别预测流程。
NVIDIA 基于 Nemotron 与 Palantir Foundry 将供应链专家经验代码化,以优化从晶圆出厂到首个 token 生成的全流程。其供应链绩效被拆分为两段:time-to-rack 指硅片离开晶圆厂到整机系统抵达数据中心,time-to-token 则涵盖供电、散热、网络与软件栈。
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM,训练与推理可跑在各自独立的 HF Jobs 上。
Hugging Face 发布 Workflow1111,用 Gradio Workflow 把 AUTOMATIC1111 的大部分功能重建成一张包含 73 个节点的画布,覆盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 蒙版、ControlNet 式标注器、背景移除、PNG Info 和图像生视频等 11 条媒体流水线。
MIT Schwarzman 计算学院今夏启动首届 AI Educators Pilot,为期一周的 workshop 面向大波士顿地区、南卡罗来纳、西弗吉尼亚和得克萨斯的 19 名高校教师,基于课程 C01/C51(Modeling with Machine Learning)探讨如何把 AI 教学材料适配到各自学科课堂。
NVIDIA 详解多模态推理优化技术 Encode-Prefill-Decode(EPD)解耦:将视觉编码阶段与 prefill、decode 阶段分离,在图像密集提示、短到中等长度输出以及量化 MoE 模型上收益最大。结合 NVIDIA Dynamo 使用,最多可实现 5 倍加速。
NVIDIA 发布 CUDA Toolkit 13.4,新增对 Windows on Arm 平台的支持,此前 CUDA 应用在 Arm 平台仅通过 Linux 获得支持。该版本还带来更多功能与性能改进,并加强对共享 GPU 的控制。
Google DeepMind 推出 AlphaGenome Atlas,一个包含人类基因组约 90 亿个单核苷酸变异效应预测的平台,以 1-petabyte 数据集预计算 AlphaGenome 的预测结果。
推荐理由:AlphaGenome Atlas 把全基因组 90 亿个单碱基变异的预测预计算成可检索平台,读者可据此了解变异解读资源的规模与开放方式。
NVIDIA 宣布推出 CUDA Rust,为 Rust 提供原生 GPU 编程支持,并给出两条编写 GPU 内核的路径。CUDA C++ 与 CUDA Python 已是成熟的企业级工具链,CUDA Rust 将在 2027 年及以后持续完善。该方向面向推理引擎、服务基础设施、驱动和智能体运行时等不断变化的 AI 系统层。
NVIDIA 团队用 NVIDIA NemoClaw 构建了一个记忆驱动的"幕僚长"智能体,通过名为 self model 的人类可读知识层维护智能体的相关记忆。企业工作涉及随时间变化的邮件、决策、项目与待办事项,缺乏上下文的智能体必须先重建这些信息才能参与工作。
NVIDIA 介绍如何在 Jetson 边缘硬件上部署并优化前沿推理与智能体模型。此前具备多步推理能力的模型体积过大,无法在边缘本地运行,开发者只能把推理绕经数据中心,带来网络依赖、成本上升和本可留在设备上的数据外泄风险。NVIDIA 表示这一限制正在被解除。
GitHub 发布研究预览 Project HydraFusion,在 GitHub Copilot 运行时对多个提供商的模型做编排,创建完整执行计划,让模型起草、评审、修订或升级到更强的模型。
推荐理由:GitHub 官方披露多模型编排的三种执行模式与三项基准的成本质量对照,可据此判断多模型路由在编码任务中的落地方式。
NVIDIA 介绍如何在联邦 Kubernetes 与 AI 平台之间传递用户身份:用户可从中央门户打开受治理数据集、启动 notebook、调用另一集群中的助手,但身份在每一步都要跨越控制面与数据面边界,传统单点登录在此失效。
Meta 推出 ZGateway,作为 ZippyDB 客户端与 ZServer 数据库之间的无状态代理层,目前承载约 40% 的 ZippyDB 流量,预计将增长至 60% 以上,每秒可处理超过 10 亿次操作,平均用例仅增加约 6% 计算开销。
NVIDIA 推出 PAIR 虚拟推理路由器,可将本地网络中的可用算力扩展给 AI 智能体使用。该方案面向多智能体协作场景:主智能体把复杂任务拆成子任务分派给专用子智能体,用户也会同时运行多个智能体会话。
Google DeepMind 与 Google Research 发布 WeatherNext 3 全球天气模型,直接学习实时对地静止卫星观测数据,每小时输出一次预报,温度等关键地表变量分辨率达 5 公里,较上一代 WeatherNext 2 的 25 公里、6 小时更新提升约 5 倍。
推荐理由:官方披露了分辨率、更新频率与训练数据来源的变化,可对比上一代判断天气模型精度提升的路径。
Hugging Face 推出 NeoMME,包含 260M 和 800M 两个多语言多模态编码器,不用独立预训练视觉塔或因果语言模型,由单个双向 Transformer 同时处理文本 token 与原始图像 patch,并以掩码离散扩散目标从零训练。
Hugging Face 发布 funes,一个为 Claude Code、Codex、pi 和 Hermes 等编码智能体提供持久记忆的开源单文件工具,默认在本地完成嵌入和重排,无需 ML 运行时依赖。
推荐理由:原文给出了一条命令接入、本地嵌入与按需发布到自有数据集的完整路径,可据此判断跨机器与跨智能体的记忆方案是否可迁移。
一份公开教程用 TRL 的 GRPO 对 LFM2.5-350M 做微调,仅约 500 条样本、100 个训练步,就把 IFStruct 基准成绩从 22.6% 提升到 29.7%。
作者用 TRL 和 OpenEnv 复现了 Surya Narreddi 让语言模型通过 p5.brush 写 JavaScript 画水彩的方案,将参考池、RL 环境、打分模型和训练脚本全部开源。
三位曾任职 MIT-IBM Computing Research Lab 的研究者现于 IBM 推进 AI 与量子研究:张伟宏(Zhang-Wei Hong)研究面向智能体的测试时训练与企业级智能体框架,Irene Ko 开发 vLLM Hook 插件,通过访问模型隐状态分析提示词注入与幻觉风险;Srinivasan Arunachalam 则从学习理论出发寻找量子加速算法。
NVIDIA 发布 CUDA 优化实战教程,用图像处理示例演示六步渐进式改进:借助 CCCL API 与 Compute Sanitizer 定位索引越界等内存错误,用 NVTX 标注改善 Nsight Systems 性能分析,并调用 CUB 的 block/device 级算法。
Google DeepMind 发布 Gemini 3.8,包含两个变体:Gemini 3.8 Flash 面向软件工程、智能体任务和多步推理,定价与 3.7 Flash 相同,为每百万输入 token $0.75、输出 token $3.75;Gemini 3.8 Flash Cyber 面向漏洞检测与自动修补,通过新的 Fairwind Program 向受信任防御方开放。
推荐理由:官方给出 3.8 Flash 与 Cyber 两个变体的定价、基准表现和开放入口,便于对照 3.7 判断升级幅度。
NVIDIA 在 AI 模型协同设计系列第三篇中,探讨如何用推测解码在保持精度的前提下加速 LLM 推理。文章给出五条指南,用于在帕累托前沿上选择 draft 长度与 draft 机制。
MIT 与自动驾驶公司 Motional 提出 Concept-Wrapper Network(CW-Net),可将自动驾驶深度学习规划器的内部推理翻译为“接近停驻车辆”“靠近骑行者”等可理解概念。该模块在 1.3 亿个自动驾驶场景样本上训练,不改动原模型驾驶性能,实测帮助安全员更准确预测车辆行为。研究发表于 Nature。
Meta 工程团队构建了一个面向合规领域的 AI 智能体,作为领域"第二专家"沉淀机构知识。系统将知识架构与推理层分离,通过自改进闭环把专家反馈编译为经过回归测试的更新,无需重训练模型,并将 200+ 文件按 Position、Taxonomy、Routing、Gateway 等类型组织成严格分类体系。
Hugging Face 发布 BenchMIRT,一种在单条题目层面审计 LLM 基准的方法,基于多维 IRT 从 100 个 LLM、16 个基准、超 34K 道题的评测结果中自动分离出安全与通用推理两个维度。
MIT 城市研究与规划系及 Sloan 管理学院高级讲师 Walter Torous 被任命为 MIT 房地产中心(CRE)执行主任,自 2026 年 7 月 1 日起生效,他将继续兼任 MSRED 项目主任。
Google DeepMind 在 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 上推出智能体视频理解功能,通过动态检索帧、音频和转录文本,将 token 消耗降低最多 88%、分析成本降低最多 66%、准确率提升最多 7%。
推荐理由:Gemini 新功能给出 token 与成本下降幅度及启用方式,读者可据此评估长视频分析流程的改动空间。
NVIDIA 发布基于 Nemotron 的自适应智能体网络安全系统方案,让智能体跨长周期协调工作、追求复杂目标,而非局限于既有告警、预设工作流和已知攻击行为。其重点在于找出防御遗漏之处,并将这些缺口转化为新的防御能力。
NVIDIA 发文讨论企业如何为 AI 推理负载合理配置 GPU 并优化总拥有成本(TCO)。文章指出,面对延迟目标、模型选择、流量模式和预算约束的复杂组合,组织在 GPU 选型上容易迷失方向。
MIT 媒体实验室 Lifelong Kindergarten 小组博士生 Ila Kumar 主张让技术受益者从一开始就参与设计,而非由工程师和设计师闭门造车。
Hugging Face 的 WebAI 团队发布 @huggingface/kernels 库和 207 个 WebGPU 内核,均已发布为独立仓库并采用 Apache-2.0 许可,用于从 Hub 加载和运行优化后的内核。
推荐理由:Hugging Face 放出 207 个 WebGPU kernel 及配套加载器和浏览器评测工具,并给出与 ORT WebGPU 的逐项对比数据。
MIT Quantum Initiative(QMIT)在 Gordon and Betty Moore Foundation 资助下启动博士后奖学金项目,面向物理、化学与材料科学、生物与地球科学基础研究等领域的量子研究者,首批 QMIT Fellows 将于 2026 学年入职,2026 年秋季开放新一批申请。
NVIDIA BioNeMo NIM 微服务现可在 Claude Science 中运行,用于蛋白质结构预测。正文提到,AI 科学家已能读取论文、提出假设、调用模型并判断下一步优先做哪些实验,这类智能体能力先在软件工程中验证价值,编码智能体如今可编写、测试并交付生产代码。
NVIDIA Omniverse NuRec 用于跨车型平台扩展自动驾驶感知,解决同一套感知软件换到新车型后感知结果变化的问题。文章指出,传感器布局、标定、视场、遮挡、车身几何、时序与覆盖范围都会随车型改变,例如同一红绿灯可能出现在画面不同位置。
微软研究院推出 GigaPath-Flash 和 GigaTIME-Flash 两款高效病理基础模型,均以 Apache 2.0 许可证开放。
MIT 研究项目 Julia 如今拥有超 100 万用户,遍布全球数千家公司和大学,被用于模拟飞机、半导体、神经网络乃至黑洞成像。Julia 靠"即时编译"兼顾易用性与高性能。其团队成立的公司 JuliaHub 已于今年 4 月推出 Dyad 3.0,帮助工程团队以 AI 智能体加速火箭、卫星等复杂物理系统的设计。
NVIDIA TensorRT Model Connect 提供开源参考实现集合,可在两条命令内把开源模型从 Checkpoint 直接部署到推理,免去模型专属的转换、预处理、后处理与运行时代码。该方案支持在原生 C++ 中通过 NVIDIA TensorRT 运行受支持的模型。
Hugging Face 的 Open ASR Leaderboard 新增 Monsoon en-IN 与 Monsoon hi-IN 两个评测集,印地语由此成为该多语言榜单上的首个印度语言。