研究发现：用 LLM 让乘客"动嘴"调节自动驾驶风格
荷兰代尔夫特理工大学团队开发了一套用 LLM 把"我赶时间，开快点"这类自然语言请求转成自动驾驶控制系统参数调整的方法，采用 OpenAI 的 GPT-4o-mini 解析乘客意图，不直接接管驾驶决策，只调整安全约束内的运动规划参数。在 nuPlan 仿真器的八组提示词测试中，系统对"求舒适"和"赶时间"的请求分别调高了平顺性与速度。
#推理
#推理
今日 4 条IEEE Spectrum · AIAI 评分2929 NVIDIA Developer BlogAI 评分3434 NVIDIA Vera Rubin 与 Blackwell 为智能体 AI 能效比树立新标准
NVIDIA Vera Rubin 与 Blackwell 为智能体 AI 的每瓦性能树立新标准。OpenRouter 的 State of AI 报告基于 100 万亿 token 的真实使用数据发现，单次请求的平均提示词 token 量增长了约四倍，反映 AI 智能体已从单轮交互扩展为多步工作流。
NVIDIA Developer BlogAI 评分3838 NVIDIA Groq 3 LPX 如何在 NVIDIA Vera Rubin 上实现长上下文超快交互
NVIDIA Groq 3 LPX 是面向 NVIDIA Vera Rubin 平台的交互式 AI 推理加速器。平台核心 NVIDIA Vera Rubin NVL72 覆盖从小模型到大型模型、开源与闭源的最广泛 AI 工作负载，兼顾高吞吐与交互性。Groq 3 LPX 与 Vera Rubin NVL72 搭配，进一步扩展该平台的能力。
Hugging Face BlogAI 评分4646 LFM2.5-DSpark 草稿模型发布：推理最高提速 3.2 倍
LiquidAI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下实现最高 3.18 倍 GPU 吞吐提升和 2.87 倍端侧提速。
NVIDIA Developer BlogAI 评分2929 生成式推荐系统如何在大规模场景下重新定义 RecSys
NVIDIA 指出，LLM 的兴起正推动推荐系统从传统基于嵌入向量相似度的目标转向生成式目标，即根据用户历史序列预测大目录中的下一个动作或物品。推荐系统是消费互联网中最普遍的机器学习问题之一，但大规模训练与部署一直极为困难。
Import AIAI 评分2626 Import AI 469：Science AI、RSI 模拟器与扎克伯格的技术悲观主义
Import AI 第 469 期介绍了 DiG-bench（Discovery in Games）基准，包含 70 款规则与目标均隐藏的手工游戏，其中 21 款已公开，Opus 5 和 Fable 5 搭配 Claude Code 表现最佳，但仅能在 Tier 7 取得 0.2 分。
IEEE Spectrum · AIAI 评分5050 Axiom Math 用 AxiomProver 首次验证素数 246 定理证明
Axiom Math 团队用其自主多智能体系统 AxiomProver 自动验证了素数间距相关的 246 定理证明，这是 AI 辅助数学形式化验证中迄今最重要的一次。
Microsoft ResearchAI 评分4343 MindTopo：新基准揭示多模态大模型的空间拓扑推理短板
Microsoft Research 推出 MindTopo 基准，用于评测多模态大模型对连通性、封闭、顺序、分离与打结等拓扑关系的理解，同时考察静态识别与交互规划。当前模型在静态推理上明显强于交互规划，且均远低于人类水平，失败多发生在规划阶段而非感知阶段。图像与视频生成仅在有助保持结构约束时才有效。
Microsoft ResearchAI 评分4646 微软研究院发布 CARE-X：面向临床可用的放射学 VLM，融合辅助监督、奖励对齐学习与工具增强测量
微软研究院推出胸部 X 光 VLM 研究模型 CARE-X，用辅助监督头与 DAPO 强化学习在生成式与判别式任务间统一推理，并明确其尚未获监管批准、不可用于临床诊断。
NVIDIA Developer BlogAI 评分3535 NVIDIA Alpamayo 2 Super：用开放 340 亿参数推理视觉模型生成轨迹、推理链与自动标注
NVIDIA 推出 Alpamayo 2 Super，一个开放 340 亿参数的推理视觉模型，可在自动驾驶开发中统一生成轨迹、高层意图预测、场景理解与数据标注，替代此前各环节分立的模型。该模型支持在同一套表示上对比相关输出、排查模型行为，并复用至整个开发流程。
NVIDIA Developer BlogAI 评分2828 NVIDIA 如何为快速交互式长上下文推理协同设计 AI 模型注意力
随着智能体与长上下文工作负载普及，注意力机制在推理耗时中占比越来越大，成为主导成本。NVIDIA 提出围绕 GPU 执行方式设计模型架构，即 AI 模型协同设计，以优化长上下文推理性能。
Berkeley AI Research精选AI 评分6060 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley Sky Lab 与 IBM Research 将 K-Search 这一进化式内核搜索框架扩展到 MLX，用结构化的 CUDA-to-MLX 翻译层，把已有 CUDA 内核当作知识库迁移到 Apple Silicon。
推荐理由：这篇工作给出把 CUDA 内核经验迁移到 Apple Silicon 的具体做法，读者可据此判断跨平台内核优化的可行路径。
Berkeley AI ResearchAI 评分4343 伯克利提出 ABBEL：用信念状态监督 LLM 长程交互中的上下文摘要
伯克利 AI 研究提出 ABBEL 框架，将 LLM 的摘要以自然语言"信念状态"形式隔离并监督其信息内容，通过类自编码器的信念评分奖励能重建最新观测的摘要。在协作编程基准 CollabBench 上，ABBEL-rec-BG 把与全上下文模型的性能差距缩小约 50%，训练步数从 100 降至 50，峰值上下文 token 数也低于全上下文设置。
NVIDIA Developer BlogAI 评分2121 让长时间运行的 NVIDIA TensorRT 引擎构建在 Python 或 C++ 中可观测、可取消
NVIDIA 提出让长时间运行的 TensorRT 引擎构建在 Python 或 C++ 中变得可观测、可取消，以解决构建过程无进度反馈的问题。TensorRT 引擎构建可能耗时数秒到数分钟，大型强类型模型、深层 tactic 搜索以及全新 GPU SKU 上的冷 timing cache 都会拉长构建时间。
Ahead of AI · Sebastian RaschkaAI 评分3838 如何在 LLM 中控制推理努力程度
文章以 OpenAI 的 o1、DeepSeek-R1 和 GPT-5.6 Sol 为例，解释推理模型如何通过推理努力（reasoning effort）设置控制性能与成本，GPT-5.6 系列提供三种尺寸、每种约五到六档推理努力。核心方法是用 RLVR 训练：仅以最终答案正确性（0/1）和格式给奖励，中间推理轨迹不参与训练，模型因此学会回溯和自我纠错等“Aha”时刻。
Hugging Face Blog精选AI 评分8282 Thinking Machines 发布 Inkling 与 Inkling-Small 开源多模态模型
Thinking Machines Lab 在 Hugging Face 发布 Inkling 系列开源多模态大模型，Inkling 为 975B 总参数、41B 激活参数的 MoE 模型，原生接受图像、文本和音频输入，支持 1M 上下文。
推荐理由：首个约1T参数、1M上下文的开源原生多模态模型，附完整部署配置与基准对比可供参考。
Hugging Face BlogAI 评分3131 PyTorch 性能分析（第三部分）：剖析 attention 实现的性能表现
PyTorch 官方博客 "Profiling in PyTorch" 系列第三篇聚焦 attention，通过 naive attention、inplace 因果掩码、SDPA 和自定义 kernel 四种实现对比 profiler 追踪结果。
Hugging Face Blog精选AI 评分7777 vLLM 的 transformers 建模后端提速至原生实现水平
Hugging Face 宣布 vLLM 的 transformers 建模后端现已达到甚至超过 vLLM 手写原生实现的吞吐量，覆盖 Qwen3-4B（单卡）、Qwen3-32B（张量并行）、Qwen3-235B-A22B-FP8（数据加专家并行，8×H100）三种规模。
推荐理由：官方给出三个 Qwen3 模型的实测对比，读者可了解无需移植即可获得原生级 vLLM 推理速度的具体路径。
MIT News · AIAI 评分2424 MIT 专访：智能体 AI 今天是什么，我们又希望它成为什么？
MIT News 专访 MIT EECS 副教授、CSAIL 成员 Phillip Isola，解析智能体 AI 与 ChatGPT、Claude 等生成式 AI 的区别。
Google DeepMind精选AI 评分6767 Google DeepMind 发布 DiffusionGemma：文本扩散模型推理最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式一次性生成 256 个 token，在专用 GPU 上文本生成最高提速 4 倍，单张 NVIDIA H100 上超过 1000 tokens/秒，RTX 5090 上超过 700 tokens/秒。
推荐理由：官方给出 4x 推理加速的实测数字与本地低并发场景边界，读者可据此判断它适合哪些交互式工作流。
Ahead of AI · Sebastian RaschkaAI 评分2525 LLM 研究论文清单：2026 年 1 月至 5 月
Sebastian Raschka 发布 2026 年 1 月至 5 月的 LLM 研究论文精选清单，涵盖架构与模型设计、高效训练与扩展、推理效率与 KV Cache、稀疏注意力与长上下文、推理与测试时计算、强化学习与 RLVR、智能体系统与工具使用、编程智能体、扩散语言模型以及模型评测等类别。
Ahead of AI · Sebastian RaschkaAI 评分3737 LLM 架构最新进展：Gemma 4 的 KV Sharing、mHC 与压缩注意力
近期开放权重模型的新架构集中解决长上下文效率问题：Gemma 4 的 E2B/E4B 变体采用跨层 KV sharing 并复用 KV 张量以压缩缓存，ZAYA1 引入压缩卷积注意力，Laguna XS.2 采用逐层注意力预算，DeepSeek V4 则结合 mHC 与压缩注意力。随着推理模型和智能体工作流保留更多 token，KV cache 大小、内存流量与注意力开销已成为主要瓶颈。
Hugging Face Blog精选AI 评分6464 Hugging Face 详解连续批处理中的异步化：用 CUDA 流与事件消除 CPU-GPU 串行等待
Hugging Face 博客发布第二篇高效 LLM 推理系列文章，讲解如何在连续批处理中实现异步化：将 CPU 的批准备与 GPU 的计算解耦，用 H2D、compute、D2H 三个非默认 CUDA 流配合 CUDA event 跨流同步，并处理双缓冲防数据竞争与 carry-over 传递新 token。
推荐理由：以 CPU 与 GPU 串行浪费为主线，给出三流分离与 CUDA event 同步的异步批处理实现思路，可迁移到长序列推理部署优化。
Hugging Face BlogAI 评分1919 AWS 上基础模型训练与推理的构建模块
AWS 撰文解析基础模型训练与推理的系统架构，指出扩展已从预训练单曲线演变为预训练、后训练与测试时计算三条路线，三者对加速计算、高带宽低延迟网络和分布式存储提出趋同的基础设施需求。
Berkeley AI ResearchAI 评分4040 自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队梳理了从自一致性、Best-of-N、Tree of Thoughts 到 ThreadWeaver、ParaThinker、GroupThink、Hogwild!
Hugging Face BlogAI 评分3636 vLLM V0 迁移到 V1：RL 训练中先对齐正确性再改目标函数
PipelineRL 将推理引擎从 vLLM V0 迁移到 V1 时出现训练-推理不匹配，修复 logprobs 语义、V1 运行时默认值、inflight 权重更新路径和 fp32 lm_head 四处后 V1 与 V0 参考轨迹重新对齐。
Hugging Face Blog精选AI 评分8080 DeepSeek-V4 发布：百万 token 上下文面向智能体长任务
DeepSeek 发布 V4，Hub 上有 DeepSeek-V4-Pro（1.6T 总参数、49B 激活）和 DeepSeek-V4-Flash（284B 总参数、13B 激活）两个 MoE checkpoint，均支持 1M-token 上下文窗口。
推荐理由：原文拆解了 V4 混合注意力与工具调用后训练设计，可判断长上下文智能体工作负载的成本取舍。
Berkeley AI ResearchAI 评分3636 GRASP：面向世界模型长时程规划的梯度规划器
Berkeley AI Research 提出 GRASP，一种面向学习型世界模型的梯度规划器，通过将轨迹提升为虚拟状态实现跨时间并行优化、在状态迭代上加入随机性做探索、并重塑梯度以避免经由高维视觉模型的脆弱"状态-输入"梯度，从而让长时程规划变得可行。该工作与 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun、Amir Bar 合作完成。
Ahead of AI · Sebastian RaschkaAI 评分3333 现代 LLM 注意力机制变体图解指南
Sebastian Raschka 发布 LLM 架构图库（含 45 个条目），每个条目配有可视化模型卡，并推出 Redbubble 海报版。文章同时系统梳理现代开源权重模型中采用的各类注意力变体，从标准多头注意力（MHA）讲起，覆盖分组查询注意力、滑动窗口注意力等，示例架构包括 GPT-2、OLMo 2 7B 和 OLMo 3 7B。
Berkeley AI ResearchAI 评分3636 Berkeley AI Research 提出 SPEX 与 ProxySPEX，大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 和 ProxySPEX，用于在大规模 LLM 中识别驱动模型输出的关键特征、数据与内部组件交互。SPEX 利用交互的稀疏性和低阶性，将搜索问题转化为稀疏恢复问题，可扩展到比既有方法大几个数量级的规模；ProxySPEX 进一步利用层次结构，以约少 10 倍的消融次数达到与 SPEX 相当的性能。
Google DeepMindAI 评分3434 AlphaGo 十年：从围棋到生物学，再到更多领域的影响
Google DeepMind 回顾 AlphaGo 击败围棋世界冠军十周年，称其标志现代 AI 时代的开端。此后其搜索与强化学习方法衍生出 AlphaGo Zero、AlphaZero，并推动 AlphaFold 2 破解蛋白质折叠难题，AlphaFold 数据库已被超 300 万研究人员使用，相关成果于 2024 年获得诺贝尔化学奖。
Google DeepMind精选AI 评分7474 Google DeepMind 发布 Gemini 3.1 Flash-Lite，主打高性价比
Google DeepMind 发布 Gemini 3 系列中最快、最具成本效率的模型 Gemini 3.1 Flash-Lite，今日起通过 Gemini API 在 Google AI Studio 面向开发者预览，企业可通过 Vertex AI 使用。
推荐理由：原文给出价格、速度与基准分数，可判断这款轻量模型在高频工作负载中的取舍。
Ahead of AI · Sebastian RaschkaAI 评分4646 2026 年 1-2 月开权重 LLM 十种架构盘点：从 Trinity Large 到 Kimi K2.5
2026 年 1 月 27 日至 2 月 17 日，开源社区陆续发布十款开权重 LLM，包括 Arcee AI 的 400B Trinity Large、Moonshot AI 的 1 万亿参数 Kimi K2.5、Qwen3-Coder-Next、GLM-5、MiniMax M2.5、Qwen 3.5 和 Cohere Tiny Aya 等。
Google DeepMind精选AI 评分7575 Google DeepMind 发布 Gemini 3.1 Pro，ARC-AGI-2 得分 77.1%
Google DeepMind 于 2 月 19 日发布 Gemini 3.1 Pro，定位为面向复杂任务的核心推理升级版，在 ARC-AGI-2 上取得 77.1% 的已验证得分，超过 3 Pro 推理表现的两倍。
推荐理由：官方给出 ARC-AGI-2 的 77.1% 得分与多产品线开放范围，可据此判断核心推理能力的提升幅度。
Google DeepMind精选AI 评分7777 Gemini 3 Deep Think 升级：面向科研与工程推理
Google DeepMind 发布 Gemini 3 Deep Think 的重大升级，这一专用推理模式面向科学、研究与工程难题。
推荐理由：官方给出了 Gemini 3 Deep Think 在多项学术与竞赛基准上的成绩，并首次开放 Gemini API 早期访问。
Google DeepMind精选AI 评分7878 Google DeepMind 用 Gemini Deep Think 加速数学与科学发现
Google DeepMind 发布两篇论文，介绍由 Gemini Deep Think 驱动的数学研究智能体 Aletheia 在专业研究问题上的表现。该智能体带有自然语言验证器，可迭代生成、验证和修正解答，并能承认无法求解，同时借助 Google 搜索和网页浏览梳理文献以避免虚假引用。
推荐理由：两篇论文给出 Gemini Deep Think 驱动的数学研究智能体 Aletheia 在专业数学、物理与计算机科学问题上的实际协作案例。
Hugging Face BlogAI 评分4343 解锁 GPT-OSS 的智能体 RL 训练：一次实践复盘
Hugging Face 博客复盘了用 verl 框架对 GPT-OSS-20B 做智能体强化学习训练的过程，该模型此前已被验证性能接近 OpenAI o3-mini 和 o4-mini，但尚未验证是否适合智能体 RL 训练。
Ahead of AI · Sebastian RaschkaAI 评分3030 LLM 推理如何做推理时扩展：六大方法分类与最新进展
LLM 推理时扩展（inference-time scaling）通过投入更多推理算力提升答案质量，已成为各大模型厂商的常规手段。Sebastian Raschka 将现有方法归为六大类：思维链提示、自一致性、Best-of-N 排序、带验证器的拒绝采样、自 refinement 与解路径搜索，并介绍了近几个月的新工作。
Hugging Face BlogAI 评分4242 微软 DIFF Transformer V2 发布：解码速度追平标准 Transformer
微软发布 Differential Transformer V2（DIFF V2），在保持 KV head 数量不变的前提下将 query head 翻倍，解码速度与标准 Transformer 相当，且无需自定义 attention kernel。
Ahead of AI · Sebastian RaschkaAI 评分4848 LLM 的 2025：进展、问题与预测
2025 年 LLM 发展由推理模型主导，DeepSeek 在 1 月发布 R1 论文，用强化学习配合可验证奖励（RLVR）与 GRPO 算法训练出推理行为，并以开放权重达到当时最佳专有模型水平。R1 在 DeepSeek V3 之上再训练约花费 29.4 万美元，V3 的 671B 参数模型训练成本估计接近 500 万美元而非 5 亿。此后各家开放权重与专有模型纷纷跟进推出推理版本。