Visual Salamandra 发布:将 Salamandra 7B 扩展至图像与视频多模态理解
语言技术实验室发布 Visual Salamandra,把 70 亿参数的 Salamandra 大语言模型扩展至图像和视频多模态任务,并以 SigLIP-So400m 编码器、2 层 MLP 投影器与 late-fusion 架构实现视觉-语言对齐。
语言技术实验室发布 Visual Salamandra,把 70 亿参数的 Salamandra 大语言模型扩展至图像和视频多模态任务,并以 SigLIP-So400m 编码器、2 层 MLP 投影器与 late-fusion 架构实现视觉-语言对齐。
HF Mirror 与 Cloudflare 达成合作,FastRTC 开发者用一个 HF Mirror token 即可接入 Cloudflare 覆盖 335 个以上地点的全球 TURN 网络。
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards Space,将阿拉伯语 AI 评测集中到一处,目前上线 AraGen-03-25 和阿拉伯语指令遵循两个榜单。
ChatGPT 的 canvas 能把手写笔记、转录文本和草稿整理成润色后的成稿,OpenAI 展示了这一写作流程。该功能面向写作场景,帮助用户从零散素材直接产出完整文稿。
ChatGPT 可支持战略规划:分析背景信息、生成多种选项,并把决策转化为下一步行动。这是 OpenAI 给出的用法说明,未涉及具体模型版本或新功能。
ChatGPT 的视觉与语音功能可帮助团队处理多模态输入,并更自然地进行沟通。该内容展示了这两项能力在团队协作场景中的实际用法。
ChatGPT 现在可以把生成的代码直接送入 IDE,以加速开发工作流。该能力用于衔接模型产出与实际编码环境,减少手动复制粘贴的环节。
Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。
推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。
Gradio 上线 5 年后月度开发者用户突破 100 万,Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini、LLaMA-Factory 等热门开源项目均在使用。
Hugging Face 把已有 3 年历史的 NLP Course 更名为 LLM Course,并新增微调 LLM、构建 DeepSeek R1 等推理模型的新章节。
TNG Technology Consulting 提出在自建 LLM-Server 中为每个用户和模型设置独立队列,并采用轮询式公平调度替代 FIFO,避免单个"重度用户"占满队列阻塞他人。该方案通过 vLLM 的 /metrics 端点读取后端队列长度指标、动态控制请求下发速率以保持短队列,从而降低新用户延迟。文章还讨论了按请求数、处理时长、KV-cache 命中和优先级分级等公平性扩展方向。
Hugging Face 将密钥管理从 AWS 单云环境迁移到 Infisical,以支撑 Hub 上超 400 万开发者、每分钟超 1000 万请求的规模。此前团队评估过 HashiCorp Vault,最终选择 Infisical,通过其 Kubernetes Operator 自动同步密钥,并借助 Okta 集成实现基于 RBAC 的细粒度权限控制。
Hugging Face 通过 PR #3091 将 Intel Gaudi 支持原生集成进 TGI 主代码库,不再维护独立的 tgi-gaudi 分支,基于新的多后端架构直接支持 Gaudi1/2/3,分别可运行于 AWS EC2 DL1、Intel Tiber AI Cloud、IBM Cloud 及 Dell、HP、Supermicro 等 OEM 硬件。
DeepSeek-V3 的更新版 DeepSeek-V3-0324 本周出现在 Hugging Face Hub 上,架构与原始 V3 相同,许可证由自定义模型许可改为 MIT。
推荐理由:梳理了 DeepSeek-V3 更新版在数学与代码基准上的提升幅度,并给出本地部署与量化方案。
Hugging Face 发布教程,介绍如何用 Sentence Transformers 库微调 reranker(Cross Encoder)模型,覆盖数据集、损失函数、训练参数、评估器和 CrossEncoderTrainer 各组件。
Gradio 发布 gr.Dataframe 组件的大规模更新,过去 6 周关闭了 70 多个相关 issue。新增多单元格选择、行号列与 pinned_columns 列固定、复制与全屏按钮、行列选择、static_columns 静态列,以及通过 show_search 参数启用的搜索和过滤功能,同时升级了键盘导航无障碍支持与样式。
Hugging Face 为 Inference Endpoints 更新分析面板,指标数据改为实时更新,并重构后端以保证高流量端点下数据快速加载。新版本支持自定义时间范围与自动刷新,还新增副本生命周期视图,可追踪每个副本从初始化到终止的每次状态转换。这些更新已上线,官方表示仍在持续迭代并征求反馈。
Hugging Face 博客给出用 LM Studio 在本地运行 OlympicCoder 7B 的 4bit GGUF 量化版,并通过 Continue 扩展接入 VS Code 的完整步骤。该 7B 模型在 LiveCodeBench 评测中超过 Claude 3.7 Sonnet 和 GPT-4o,因为基于 CodeForces-CoTs 数据集优化,风格偏向竞赛型而非解释型。
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应,主张开放 AI 系统与开放科学是提升性能、采用率和安全性的基础。
Hugging Face 已将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,约 6% 的 Hub 下载流量切换到 Xet 基础设施。Xet 采用内容定义分块(CDC),按约 64KB 块做字节级去重,改一个 Parquet 文件的一行只需上传变更块,而 LFS 需重传整个文件。2 月 20 日当天共迁移 4.5 TB 仓库数据,迁移后 CAS 的下载量一度达到返回给客户端的四倍。
NVIDIA 在 GTC 2025 上发布三款面向物理 AI 开发者的开源资源:70 亿参数的 Cosmos Transfer 世界基础模型、15TB 的 Physical AI Dataset,以及首个通用人形机器人开源基础模型 NVIDIA Isaac GR00T N1。
推荐理由:三款开源发布给出参数规模、数据量和模型结构,读者可据此判断物理 AI 开发的基础资源变化。
Google 发布 Gemma 3 开源权重模型家族,提供 1B、4B、12B、27B 四种规格及预训练与指令微调版本。4B、12B、27B 支持图像与文本输入、140 多种语言和 128k token 上下文,1B 版本仅支持英文文本和 32k 上下文。
推荐理由:Google 开源 Gemma 3 覆盖 1B 到 27B 四种规格,可据此判断小参数模型在多模态与长上下文上的实际边界。
Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。
推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。
Yaak 与 Hugging Face 的 LeRobot 团队联合发布 Learning to Drive(L2D),被称为全球最大的开源自动驾驶数据集,包含来自德国 30 个城市、60 辆驾校电动车、历时 3 年采集的 90+ TB 多模态数据,约 5000 小时驾驶记录。
推荐理由:L2D 开源数据集包含 5000+ 小时德国驾校数据,可用于 LeRobot 端到端自动驾驶模型的训练与闭环测试。
Hugging Face 发布教程,教你用 React Native 和 llama.rn(llama.cpp 的绑定)构建本地运行 LLM 的移动应用,通过加载 GGUF 文件从 HF Mirror 下载模型,全程离线保护隐私。
Cohere For AI 发布 Aya Vision 系列开源多语言多模态模型,含 8B 和 32B 两个尺寸,覆盖 23 种语言。Aya Vision 32B 在 AyaVisionBench 上以 50% 至 64% 的胜率超过 Llama-3.2 90B Vision、Molmo 72B 和 Qwen2.5-VL 72B 等参数量两倍于它的模型。
推荐理由:原文给出 8B/32B 两个尺寸的开源权重与训练配方,可据此比较小参数多模态模型在多语言任务上的位置。
Hugging Face 将 JFrog 的扫描器接入 HF Mirror Hub,为所有公开模型仓库自动扫描,文件推送即触发。JFrog 会解析模型权重中的代码,判断其是否为恶意用法,弥补 picklescan 仅做模块名模式匹配、易产生误报的不足,并覆盖 pickle 之外的更多格式。
Hugging Face 博客介绍如何用 Arize Phoenix 配合 OpenTelemetry 和 OpenInference,对基于 smolagents 构建的智能体进行追踪与评估。
Hugging Face 与印度科学研究所 IISc、ARTPARK 达成合作,提升印度多模态多语言数据集 Vaani 的可访问性与可用性。Vaani 于 2022 年由 IISc/ARTPARK 与 Google 发起,已开源第一阶段 80 个地区的数据,第二阶段将再覆盖 100 个地区,目标采集超 15 万小时语音和 1.5 万小时转写文本。
Hugging Face 发布开源 Python 库 FastRTC,用于构建实时音频和视频 AI 应用,内置语音检测与轮次切换、WebRTC 版 Gradio UI 以及 WebSocket 支持。
推荐理由:介绍了一个把 WebRTC 实时音视频通信封装成 Python 库的开源项目,读者可据此了解如何用少量代码搭建实时语音 AI 应用。
Hugging Face Diffusers 团队试点 Remote VAE,将扩散模型的 VAE 解码交给远程 Inference Endpoints,缓解高分辨率图像和视频生成中解码器显存占用过高的问题,避免 offloading 的设备传输延迟和 tiling 的画质损失。
Google 发布多语言视觉语言编码器家族 SigLIP 2,在 SigLIP 的 sigmoid loss 基础上加入提升语义理解、定位与稠密特征的新训练目标,在零样本分类、图文检索以及为 VLM 提取视觉表征的迁移性能上全面超越同规模 SigLIP。
Hugging Face 发布 SmolVLM2 系列视频理解模型,包含 2.2B、500M 和 256M 三种参数规模,并同步支持 Transformers 与 MLX。
推荐理由:Hugging Face 发布三档小参数视频理解模型,并给出 iPhone、VLC 等端侧落地方式,可对照其内存与性能取舍。
Google 发布 PaliGemma 2 Mix,这是基于 SigLIP 和 Gemma 2、在 OCR、长短图像描述等混合视觉语言任务上微调的指令视觉语言模型。模型提供 3B、10B、28B 三种规模,224、448、896 三种分辨率,可通过 HF Transformers 和 JAX 使用,并附有演示。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、FLUX.1 等模型,并已集成 JS 和 Python 客户端 SDK。
Hugging Face 用新数学评测器 Math-Verify 重新评估了 Open LLM Leaderboard 上提交过的全部 3751 个模型,替换旧评测器只需改 3 行代码。
推荐理由:原文给出数学评测器替换后的全量重评数据,可据此理解旧榜评分偏差与榜单变动幅度。
Fireworks.ai 成为 Hugging Face Hub 支持的推理服务商,用户可直接在模型页面及整个 HF 生态中调用其无服务器推理,支持 deepseek-ai/DeepSeek-R1。
Hugging Face 发布博客,拆解每天 10 亿次以上分类与嵌入推理的成本与延迟计算方法。作者用 Inference Endpoints、HF Hub 库、Infinity 推理服务器和 k6 压测,在 nvidia-L4($0.8/hr)上跑出 10 亿次分类 $253.82、嵌入 $409.44,而 ColQwen2 视觉嵌入高达 $44,496.51。
Hugging Face 的 Xet 团队把内容定义分块(CDC)从理论推向生产,用于 Hub 上文件的上传与下载,部分场景提速 2-3 倍。方案在分块去重后聚合为最大 64MB 的块,使内容寻址存储条目减少 1000 倍,并用占全部 chunk 0.1% 的 key chunks 全局索引做查询。
推荐理由:原文给出块级聚合与 key chunks 的设计取舍,以及 gemma-2-9b-it-GGUF 仓库上传体积与耗时对比,可判断大文件传输的优化空间。
Hugging Face 发布一套用于视频生成数据集的三阶段流水线工具,通过 yt-dlp 采集视频、Video to Scenes 切分片段,并用 LAION-5B-WatermarkDetection。