跳到正文

#Hugging Face

今日 1 条
5月19日周二
5月18日周一
5月15日周五
5月14日周四
  1. Hugging Face Blog64

    Hugging Face 详解连续批处理中的异步化:用 CUDA 流与事件消除 CPU-GPU 串行等待

    Hugging Face 博客发布第二篇高效 LLM 推理系列文章,讲解如何在连续批处理中实现异步化:将 CPU 的批准备与 GPU 的计算解耦,用 H2D、compute、D2H 三个非默认 CUDA 流配合 CUDA event 跨流同步,并处理双缓冲防数据竞争与 carry-over 传递新 token。

    推荐理由:以 CPU 与 GPU 串行浪费为主线,给出三流分离与 CUDA event 同步的异步批处理实现思路,可迁移到长序列推理部署优化。

5月6日周三
  1. Hugging Face Blog30

    Hugging Face 为 Open ASR Leaderboard 引入私有数据集防刷榜

    Hugging Face 与 Appen Inc.、DataoceanAI 合作,为 Open ASR Leaderboard 引入高质量英语 ASR 私有数据集,涵盖多口音的朗读与对话语音,以防止 benchmaxxing 或测试集污染。排行榜默认平均 WER 仍仅基于公开数据集计算,用户可手动开启开关查看私有数据集的影响。该榜单自 2023 年 9 月上线以来访问量已超 710K 次。

4月29日周三
  1. Hugging Face Blog64

    IBM 发布 Granite 4.1 系列 LLM 并详解训练流程

    IBM Granite 团队发布 Granite 4.1 系列稠密解码器 LLM,包含 3B、8B、30B 三个规模,基于约 15T token 训练,采用五阶段预训练流程并将上下文窗口扩展至 512K token,全部以 Apache 2.0 许可开源。

    推荐理由:原文披露了 Granite 4.1 从预训练到多阶段 RL 的完整训练配方,以及 8B 稠密模型追平上一代 32B-A9B MoE 的对比结果。

4月28日周二
  1. Hugging Face Blog74

    NVIDIA 发布 Nemotron 3 Nano Omni:面向文档、音频与视频智能体的长上下文全模态模型

    NVIDIA 发布 Nemotron 3 Nano Omni 全模态理解模型,在文本、图像基础上加入原生音频与视频理解,覆盖文档分析、语音识别、长音视频理解、GUI 智能体和通用多模态推理五类任务。

    推荐理由:原文给出了架构细节、多模态基准成绩与吞吐数据,读者可据此判断开源全模态模型在文档、音视频与 GUI 智能体场景的可用性。

4月27日周一
4月24日周五
4月23日周四
4月21日周二
  1. Hugging Face Blog39

    AI 与网络安全的未来:为什么开放更重要

    在 Mythos 与 Project Glasswing 发布后,Hugging Face 发文讨论 AI 网络安全格局,指出真正起作用的是"大算力模型 + 软件相关数据训练 + 漏洞探测与修补脚手架 + 一定程度的系统自主性"这套系统配方,而非单个模型。文章认为开源代码与工具能让防御方获得与攻击方同级的 AI 能力,缩小双方的能力不对称。

4月18日周六
  1. Ahead of AI · Sebastian Raschka40

    我理解 LLM 架构的工作流:从技术报告到配置文件与参考实现

    Sebastian Raschka 分享了他绘制 LLM 架构图的工作流:先从官方技术报告入手,但如今论文细节常不如以往,尤其工业实验室的开源权重模型。若模型权重发布在 Hugging Face Model Hub 且被 Python transformers 库支持,可直接查看 config 文件与参考实现,"能跑通的"代码不会说谎。

4月16日周四
4月15日周三
4月9日周四
  1. Hugging Face Blog62

    Overworld 发布实时视频世界模型 Waypoint-1.5

    Overworld 发布新一代实时视频世界模型 Waypoint-1.5,在 RTX 3090 至 5090 等桌面硬件上可生成最高 720p、60 FPS 的实时环境,并新增面向更广泛消费级硬件的 360p 档位。

    推荐理由:Waypoint-1.5 用 720p/360p 双档位和消费级硬件本地运行把实时世界模型从演示推向可用。

4月8日周三
4月1日周三
3月31日周二
  1. Hugging Face Blog60

    IBM 发布 Granite 4.0 3B Vision 文档理解多模态模型

    IBM 发布 Granite 4.0 3B Vision,一款面向企业文档理解的紧凑型视觉语言模型,以 LoRA 适配器形式挂载在 Granite 4.0 Micro 之上,在 Hugging Face 以 Apache 2.0 许可开放。

    推荐理由:IBM 以 LoRA 适配器形式发布 3B 文档视觉模型,并给出图表与表格抽取的对比基准,便于判断小模型在企业文档场景的可用性。

3月27日周五
3月24日周二
  1. Hugging Face Blog46

    Hugging Face 发布语音智能体评测框架 EVA,首次联合打分准确率与体验

    Hugging Face 推出端到端语音智能体评测框架 EVA,首次同时评估任务成功率与对话体验,输出 EVA-A(准确率)和 EVA-X(体验)两项分数,并基于 bot-to-bot 实时音频架构模拟多轮完整通话。首批发布含 50 个航司场景数据集(覆盖航班改签、取消、代金券等),并对 20 个级联与音频原生系统(如 S2S 模型、LALM)给出基准结果,发现准确率与体验之间存在一致的权衡。

3月21日周六
  1. Hugging Face Blog63

    如何在一天内构建领域专用嵌入模型

    NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。

    推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。

3月18日周三
  1. Hugging Face Blog68

    Hugging Face 发布 2026 春季开源 AI 生态报告

    Hugging Face 发布 2026 春季开源 AI 生态分析,基于平台数据复盘过去一年竞争格局、地理分布、技术趋势与新兴社区。2025 年平台用户增至 1300 万,公开模型超 200 万个,公开数据集超 50 万个;中国模型占过去一年下载量的 41%,行业开发占比从 2022 年前的约 70% 降至 2025 年的约 37%。

    推荐理由:Hugging Face 官方以平台数据复盘开源 AI 一年变化,可用于判断开源生态的重心与集中度。

3月17日周二
3月10日周二
3月9日周一
3月5日周四
  1. Hugging Face Blog62

    Hugging Face 推出 Modular Diffusers,可组合的扩散流水线构建模块

    Hugging Face 发布 Modular Diffusers,用可复用 block 组合扩散流水线,作为 DiffusionPipeline 的灵活替代方案,支持添加、删除和替换 block,并可用 .init_pipeline() 把 block 转为可运行流水线。

    推荐理由:原文给出可组合模块的 API 写法与自定义 block 示例,读者可据此判断现有扩散流水线能否改造成模块化流程。

3月4日周三
2月26日周四
2月20日周五