跳到正文

#多模态

今日 4 条
9月23日周三
9月17日周四
  1. NVIDIA Developer Blog34

    如何用 AI 智能体为仿真准备 3D 场景

    AI 智能体工作流可用于为物理 AI 系统准备并验证数字孪生:智能体检查 3D 场景、在 OpenUSD 中编写仿真相关数据、添加物理属性、渲染预检视图,并对照 SimReady 要求验证结果。该流程覆盖从 Blender 场景到交付给 NVIDIA 的仿真就绪 OpenUSD 交接。

9月14日周一
  1. MIT News · AI39

    MIT 新方法 HardFlow 让生成式 AI 满足安全关键场景的硬约束

    MIT 研究人员提出 HardFlow,让预训练生成模型在部署阶段满足安全、物理等不可妥协的硬约束,同时提升输出质量,无需重新训练。该方法把硬约束采样重构为轨迹优化问题,只在最终输出上强制约束,而非每个中间步骤。在机器人操作、迷宫导航和文本引导图像编辑实验中,HardFlow 实现完全约束满足,质量持续优于基线方法,计算时间与多数同类方法相当或更低。

9月10日周四
9月3日周四
  1. Google DeepMind78

    Google DeepMind 发布 WeatherNext 3 全球天气 AI 模型

    Google DeepMind 与 Google Research 发布 WeatherNext 3 全球天气模型,直接学习实时对地静止卫星观测数据,每小时输出一次预报,温度等关键地表变量分辨率达 5 公里,较上一代 WeatherNext 2 的 25 公里、6 小时更新提升约 5 倍。

    推荐理由:官方披露了分辨率、更新频率与训练数据来源的变化,可对比上一代判断天气模型精度提升的路径。

9月2日周三
  1. Google DeepMind78

    Google DeepMind 为 Gemini 推出智能体视频理解功能

    Google DeepMind 在 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 上推出智能体视频理解功能,通过动态检索帧、音频和转录文本,将 token 消耗降低最多 88%、分析成本降低最多 66%、准确率提升最多 7%。

    推荐理由:Gemini 新功能给出 token 与成本下降幅度及启用方式,读者可据此评估长视频分析流程的改动空间。

9月1日周二
8月27日周四
8月25日周二
  1. IEEE Spectrum · AI13

    Ollobot OlloNi SS1:AI 陪伴机器人如何填补现代家庭的情感空缺

    Ollobot 推出 AI 家庭陪伴机器人 OlloNi SS1,配备多芯片 AI 4K 视觉模块,支持人脸识别与运动追踪,并内置物理摄像头隐私盖。该机器人可在木地板、瓷砖和低矮地毯上移动,爬坡能力达 3.5 度,具备跌倒检测、主动互动与持续在场能力,面向独居老人、异地务工家庭的儿童和城市独居职场人三类场景。

8月20日周四
  1. NVIDIA Developer Blog18

    用 NVIDIA FLARE 构建联邦多模态 AI 工作流

    NVIDIA FLARE 可用于构建联邦多模态 AI 工作流,让视觉问答、图像描述与图文推理等视觉语言模型(VLM)任务在数据无法集中、原始记录分散于各机构的前提下完成协同训练。原文正文指出,现代 VLM 已能支持这些任务,而联邦学习提供了跨数据本地站点协调训练的途径。

8月18日周二
  1. Hugging Face Blog71

    Sentence Transformers v6.0 新增 MultiVectorEncoder 支持 ColBERT 式晚交互检索

    Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,PyLate、Stanford-NLP ColBERT 以及 colpali-engine 视觉文档检索检查点均可通过同一套 API 加载。

    推荐理由:原文给出多种 ColBERT 类检查点的统一加载方式,以及索引体积与检索收益之间的实测取舍,可据此决定是否替换现有稠密检索。

8月13日周四
  1. Microsoft Research43

    MindTopo:新基准揭示多模态大模型的空间拓扑推理短板

    Microsoft Research 推出 MindTopo 基准,用于评测多模态大模型对连通性、封闭、顺序、分离与打结等拓扑关系的理解,同时考察静态识别与交互规划。当前模型在静态推理上明显强于交互规划,且均远低于人类水平,失败多发生在规划阶段而非感知阶段。图像与视频生成仅在有助保持结构约束时才有效。

8月12日周三
  1. Google DeepMind76

    Google DeepMind 发布多语种手语转文本模型 SL2T,首发 Gboard 与 Live Transcribe

    Google DeepMind 发布多语种手语转文本模型 SL2T,并在 Pixel 11 的 Gboard 与 Live Transcribe 中以 ASL 转英文的听写功能首次进入消费产品,训练数据超 10 万小时、覆盖 50 多种手语。

    推荐理由:官方给出了 SL2T 的数据规模、基准成绩和隐私处理方式,可据此判断手语翻译在消费端落地的可行边界。

8月10日周一
8月4日周二
  1. NVIDIA Developer Blog35

    NVIDIA Alpamayo 2 Super:用开放 340 亿参数推理视觉模型生成轨迹、推理链与自动标注

    NVIDIA 推出 Alpamayo 2 Super,一个开放 340 亿参数的推理视觉模型,可在自动驾驶开发中统一生成轨迹、高层意图预测、场景理解与数据标注,替代此前各环节分立的模型。该模型支持在同一套表示上对比相关输出、排查模型行为,并复用至整个开发流程。

  2. MIT News · AI54

    MIT 研究:医疗 AI 辅助的效果因使用者专业水平而异

    MIT 等机构的一项研究发现,可解释 AI 对皮肤疾病诊断的辅助效果取决于使用者的医学知识水平:非专家的诊断准确率虽有提升,但主要源于对模型的顺从,他们无论解释对错都会信任基于 LLM 的解释,且解释越模糊笼统越觉得有说服力;而临床医生不受错误 AI 解释干扰,只在仅给出模型预测、不带解释时表现最好。

7月30日周四
  1. Google DeepMind76

    Google DeepMind 发布 Gemini Robotics ER 2,为机器人带来视频理解、任务编排与多机器人协作

    Google DeepMind 发布面向机器人的具身推理模型 Gemini Robotics ER 2,作为高层“大脑”负责对话、理解物理世界并规划多步任务,再把电机执行交给底层 VLA 模型。

    推荐理由:Gemini Robotics ER 2 给出了多机器人协作与视频进度追踪的能力细节和开发者接入方式。

7月28日周二
7月16日周四
7月15日周三
7月1日周三
6月22日周一
6月9日周二
  1. Hugging Face Blog61

    作者如何让 Agent 串联两个 Hugging Face Space 搭建 3D 巴黎画廊

    作者让编程智能体调用两个 Hugging Face Space 搭建了一个展示巴黎地标的 3D 高斯泼溅画廊:ideogram4 负责由提示词生成图像,VAST-AI/TripoSplat 负责将单张图像重建成 .ply 格式的 3D 高斯泼溅。

    推荐理由:作者以一条可复现的智能体流水线,展示如何用 agents.md 串联两个 Space 完成图像与 3D 生成。

6月5日周五
5月18日周一
5月17日周日
  1. Google DeepMind74

    Google 将 SynthID 与 C2PA 内容验证扩展到 Search、Gemini 和 Chrome

    Google 宣布扩展内容透明度与验证工具,把 SynthID 的图片、视频、音频验证从 Gemini app 扩展到 Search,并将在未来几周进入 Chrome,Gemini 中该功能已被使用 5000 万次。

    推荐理由:Google 把 SynthID 与 C2PA 验证铺到 Search、Gemini 和 Chrome,并开放云端检测 API,读者可了解内容溯源工具的实际入口与合作方。

5月16日周六
4月30日周四
4月28日周二
  1. Hugging Face Blog74

    NVIDIA 发布 Nemotron 3 Nano Omni:面向文档、音频与视频智能体的长上下文全模态模型

    NVIDIA 发布 Nemotron 3 Nano Omni 全模态理解模型,在文本、图像基础上加入原生音频与视频理解,覆盖文档分析、语音识别、长音视频理解、GUI 智能体和通用多模态推理五类任务。

    推荐理由:原文给出了架构细节、多模态基准成绩与吞吐数据,读者可据此判断开源全模态模型在文档、音视频与 GUI 智能体场景的可用性。

4月16日周四
4月13日周一
  1. Google DeepMind71

    Google DeepMind 发布 Gemini Robotics-ER 1.6

    Google DeepMind 发布 Gemini Robotics-ER 1.6,这是其面向机器人的推理优先模型的一次重大升级,增强了空间推理与多视角理解,并新增仪表读数能力。

    推荐理由:官方给出新版本在空间推理、成功检测与仪表读数上的能力变化,以及 API 与 AI Studio 的开放入口。

4月9日周四