Google DeepMind 推出 Gemini 3.8 Live with Live Avatar
Google DeepMind 发布 Gemini 3.8 Live with Live Avatar,在原生实时对话模型上加入近实时视频生成,让企业智能体可以边听边看边说。
推荐理由:官方说明了实时视频形象与异步工具调用的组合方式,可据此判断企业客服等场景的交互形态变化。
AI 语音与音频的进展:语音合成、实时对话、音乐生成与音频理解的模型与产品。
Google DeepMind 发布 Gemini 3.8 Live with Live Avatar,在原生实时对话模型上加入近实时视频生成,让企业智能体可以边听边看边说。
推荐理由:官方说明了实时视频形象与异步工具调用的组合方式,可据此判断企业客服等场景的交互形态变化。
Google DeepMind 推出 Gemini 3.8 Flash TTS 与 Gemini 3.8 Flash-Lite TTS 两款语音生成模型,前者面向角色设计与逐行表演指导,后者面向高并发、低成本配音场景。
推荐理由:两个 TTS 模型把语音生成从固定预设转向自然语言定制,并给出 Hume AI 基准成绩与开放入口,便于判断创作与规模化配音的能力边界。
Google DeepMind 发布两款实时语音对话模型 Gemini 3.8 Live 与 Gemini 3.8 Live Extended Thinking,前者主打规模化与成本效率,后者面向高复杂度任务,支持边推理边说话。
推荐理由:官方给出两款语音模型的基准分数、价格定位与开放渠道,可据此判断语音智能体的选型与部署时机。
Google DeepMind 发布 Gemini 3.5 Transcribe,一款面向实时转写的语音转文字模型,已在 Gemini API、Google AI Studio 和 Gemini Enterprise Agent Platform 开放公开预览。
推荐理由:官方给出 WER、延迟提升和两套 API 入口,读者可据此判断语音转写能否接入现有工程链路。
Hugging Face 发布研究,提出三项测试量化语音识别中的基准优化现象。研究评估 11 个开源 ASR 模型,发现部分高分模型在音频与参考文本矛盾时仍复现 VoxPopuli 和 LibriSpeech 的错误转写,被静音的年份甚至被补全为 2011。
推荐理由:文章用三类探针量化 ASR 模型对基准本身的过拟合,并给出可复用的检出方法。
Google DeepMind 发布新一代音乐生成模型 Lyria 3.5,并在 Google Flow Music 中上线。官方称其在音乐性、歌词、人声和创作控制上有提升,包括更复杂自然的主旋律结构、提示词遵循与结构感知更好的歌词、更具情感细节和发音更准的人声,以及更易控制输出tempo和时长。
推荐理由:官方给出 Lyria 3.5 在旋律、歌词、人声与节奏控制上的具体升级点,可据此判断音乐生成的可用边界。
Google DeepMind 发布音频模型 Gemini 3.5 Live Translate,支持 70 多种语言的近实时语音到语音翻译,能自动检测语言并保留说话人的语调、节奏和音高。
推荐理由:Gemini 3.5 Live Translate 把语音翻译从轮流应答改为连续输出,并给出开发者、企业与普通用户的接入路径。
NVIDIA 发布 Nemotron 3 Nano Omni 全模态理解模型,在文本、图像基础上加入原生音频与视频理解,覆盖文档分析、语音识别、长音视频理解、GUI 智能体和通用多模态推理五类任务。
推荐理由:原文给出了架构细节、多模态基准成绩与吞吐数据,读者可据此判断开源全模态模型在文档、音视频与 GUI 智能体场景的可用性。
Google DeepMind 发布文本转语音模型 Gemini 3.1 Flash TTS,提升了可控性、表现力和语音质量,在 Artificial Analysis TTS 排行榜上取得 1,211 的 Elo 分数。
推荐理由:官方给出 Elo 1211 的排行榜成绩与音频标签控制方式,可据此判断语音生成的可控性进步。
Google DeepMind 发布音频与语音模型 Gemini 3.1 Flash Live,称其精度更高、延迟更低,已在 Gemini Live API(Google AI Studio 预览)、Gemini Enterprise 客户体验版、Search Live 和 Gemini Live 上线。
推荐理由:官方给出语音模型在多项音频基准上的分数与覆盖入口,可据此判断语音智能体的可用度。
Google DeepMind 发布 Lyria 3 Pro,可生成最长 3 分钟的音乐,并能识别前奏、主歌、副歌和桥段等结构性元素。
推荐理由:Lyria 3 Pro 把单次生成时长提升到 3 分钟并支持曲式分段提示,读者可了解音乐生成在结构与产品接入上的变化。
Google DeepMind 发布升级版 Gemini 2.5 Flash Native Audio,面向实时语音智能体,在复杂工作流、指令跟随和自然对话三项能力上做了改进。
推荐理由:官方给出了新版原生音频模型的三项能力提升与实测评测分数,可用于判断实时语音智能体的当前水位。
Hugging Face 发布开源 Python 库 FastRTC,用于构建实时音频和视频 AI 应用,内置语音检测与轮次切换、WebRTC 版 Gradio UI 以及 WebSocket 支持。
推荐理由:介绍了一个把 WebRTC 实时音视频通信封装成 Python 库的开源项目,读者可据此了解如何用少量代码搭建实时语音 AI 应用。
Hugging Face 博客介绍如何用推测解码(assisted generation)为 Whisper 推理提速约 2 倍,同时数学上保证输出与单独使用主模型完全一致。
推荐理由:给出可复用的推测解码配置与实测数据,读者能据此在现有 Whisper 流程中获得约 2 倍加速。