Hugging Face 发布首期 AI 艺术工具通讯,回顾 2024 并预告 2025
Hugging Face 推出首期 AI 艺术工具通讯《The AI tools for Art Newsletter》,回顾 2024 年创意 AI 的关键进展,并预告 2025 年新动向及将启动月度汇总。
Hugging Face 推出首期 AI 艺术工具通讯《The AI tools for Art Newsletter》,回顾 2024 年创意 AI 的关键进展,并预告 2025 年新动向及将启动月度汇总。
Hugging Face 与 AWS 合作发布了在 AWS 上部署和微调 DeepSeek R1 系列模型的指南,涵盖通过 Inference Endpoints、Amazon Bedrock Marketplace、SageMaker AI 和 EC2 Neuron 等服务的部署路径,以及基于 Hugging Face Training DLCs 的微调方法。
Hugging Face 在 Hub 模型页和 JS/Python 客户端 SDK 中接入 fal、Replicate、SambaNova、Together AI 四家无服务器推理供应商。
推荐理由:平台把四家无服务器推理供应商接入模型页与 SDK,读者可据此比较不同供应商的调用方式与计费路径。
Hugging Face 启动 Open-R1 项目,计划系统性复现 DeepSeek-R1 的数据与训练流程,补上官方未公开的数据集和训练代码。该计划分三步:蒸馏高质量推理数据集复现 R1-Distill 模型,复刻 DeepSeek 用于 R1-Zero 的纯强化学习流程,并打通基础模型到 SFT 再到 RL 的多阶段训练。项目还计划把数据集拓展到代码和医学等领域,并向社区开放代码与讨论。
推荐理由:DeepSeek-R1 开源权重但未公开数据与训练代码,该项目计划补上蒸馏与纯 RL 复现路径。
Hugging Face 发布 Diffusers 开源视频生成模型现状综述,梳理了 CogVideoX、Mochi-1、Hunyuan Video、Allegro、LTX Video 等模型,并对比 Meta MovieGen、OpenAI Sora、Google Veo 2 等闭源方案。
Hugging Face 为 smolagents 加上视觉支持,可直接在智能体流水线中使用视觉语言模型。图像既可以在 run 方法开始时以列表传入,由 TaskStep 的 task_images 属性保存,也可以通过 step_callbacks 在每一步把新截图写入 ActionStep 的 observation_images。
推荐理由:官方给出视觉能力接入智能体管线的两种方式,并附可运行的浏览器智能体示例,便于判断多模态 Agent 的落地路径。
NVIDIA 推出 Python 工具包 KVPress,通过多种 press 压缩 KV Cache,缓解长上下文 LLM 的显存瓶颈。以 Llama 3-70B 的 bfloat16 精度、1M token 上下文为例,KV Cache 独占 327.6GB,占约 470GB 总显存需求的 70%。
Hugging Face 发布 SmolVLM 家族新成员 SmolVLM-256M 和 SmolVLM-500M,共四个 checkpoint,包括两个基础模型和两个指令微调模型,可直接加载到 transformers、MLX 和 ONNX,并提供 transformers 与 WebGPU 演示。
FriendliAI 的推理基础设施已集成进 Hugging Face Hub,成为模型页"Deploy this model"按钮中的一个部署选项。
Hugging Face 通过新增 TimmWrapper 将 timm 库的计算机视觉模型接入 transformers 生态,让任意 timm 模型可用 pipeline API 推理并兼容 Auto 类。
Hugging Face 为 Text Generation Inference(TGI)引入多后端架构,通过统一的 TGI 前端层接入 vLLM、llama.cpp、TensorRT-LLM 等推理引擎,用户可按模型、硬件和性能需求切换后端。
Hugging Face 发布两个静态嵌入模型 sentence-transformers/static-retrieval-mrl-en-v1(英文检索)和 static-similarity-mrl-multilingual-v1(多语言相似度)。
Hugging Face 发布分析指出,AI 智能体的风险随自主性提升而增加,用户让渡的控制权越多、风险越大,因此建议不要开发可自行编写并执行代码的全自主 AI 智能体。文中将智能体自主性划分为从模型不影响程序流程到模型自行编写执行代码的多个等级,认为半自主智能体在自主程度、可用任务和用户控制方式合适时,收益可能大于风险。
Hugging Face 发布 vdr-2b-multi-v1 多语言嵌入模型,可将文档页面截图直接编码为稠密单向量,无需 OCR 或分块即可检索意、西、英、法、德五种语言的视觉文档。
Hugging Face 为 Open LLM Leaderboard 加入模型推理的 CO₂ 排放估算,覆盖 3,000 多个模型的评测。数据显示模型越大排放越高但分数收益递减,MoE 模型的分数-排放比普遍偏低,而社区微调或合并模型往往比其官方基座更省碳。
Hugging Face 发布 smolagents 库,让语言模型具备智能体能力,核心是 CodeAgent——智能体用代码而非 JSON 编写动作,并支持通过 E2B 在沙箱环境执行。
推荐理由:Hugging Face 官方介绍 smolagents 库的 CodeAgent 设计与上手方式,可作为编写代码动作智能体的参考。
Hugging Face 博客给出用 PyTorch 的 torch.cuda.memory 记录并可视化 GPU 显存占用的完整方法,把 profile.pkl 拖入 pytorch.org/memory_viz 即可看到显存随时间变化的图形。
推荐理由:用 PyTorch 自带的内存快照工具逐步拆解训练显存构成,并给出可套用的估算公式。
NVIDIA 的 LogitsProcessorZoo 是一套模块化 logits 处理器,可控制语言模型生成时的序列长度、强制关键短语或引导多选题答案,并与 Hugging Face Transformers 的 generate 方法完全兼容。
Answer.AI 与 LightOn 发布 ModernBERT,一个仅编码器模型系列,包含 base(149M 参数)和 large(395M 参数)两个规模,作为任何 BERT 类模型的即插即用替代。
推荐理由:从架构到训练的完整技术拆解,并附论文、预训练 checkpoint 与微调路径,便于判断能否替换现有 BERT 类编码器。
IBM 联合普林斯顿、CMU、UIUC 发布推理高效的混合 Mamba2 模型 Bamba-9B,基于 2.2T tokens 完全开放数据训练,在 vLLM 中吞吐量提升 2.5 倍、延迟加速 2 倍。
阿布扎比技术创新研究院(TII)发布 Falcon3 开源模型系列,包含 Falcon3-1B-Base、Falcon3-3B-Base、Falcon3-Mamba-7B-Base、Falcon3-7B-Base 和 Falcon3-10B-Base 五个基础模型,全部在 100 亿参数以下。
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4(第 5 代 Intel Xeon,Emerald Rapids,带 AMX)和 N2(第 3 代 Xeon,Ice Lake,仅 AVX-512)上对比测试文本嵌入与文本生成。
Hugging Face 发布 Synthetic Data Generator,让用户用自然语言描述需求,经三步流程生成自定义数据集,目前支持文本分类和对话两类任务。
Hugging Face 与 Entalpic 联合推出开源协作项目 LeMaterial,并首发 LeMat-Bulk 数据集,将 Materials Project、Alexandria 和 OQMD 三大材料数据库统一清洗标准化为 670 万条条目、7 项材料属性的单一格式,采用 CC-BY-4.0 许可。
Hugging Face 上的 83 个开源模型现已通过 Amazon Bedrock Marketplace 提供,AWS 客户可直接部署用于生成式 AI 应用,底层由 Amazon SageMaker JumpStart 托管端点。
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本到图像偏好数据集,覆盖常见图像生成类别并混合不同模型家族与提示词复杂度。数据集基于 Flux 和 Stable Diffusion 模型生成图像,配套提供 flux-dev-lora-finetune。
一项基于 Keras、JAX 和 TPU 的 chatbot arena 实验测试了 LLM 修正自身错误的能力。
Hugging Face 发布 AraGen,一个面向阿拉伯语 LLM 的生成式任务基准与排行榜,采用基于 LLM-as-judge 的新评估指标 3C3H,从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度打分。AraGen 同时覆盖开源与闭源模型,采用动态评估策略:数据集与评估代码先保密三个月进行盲测,期满后公开并替换为新私有基准,以缓解数据污染。
Capital Fund Management(CFM)用 Llama 3.1 辅助标注金融新闻命名实体识别数据,再微调 GLiNER 与 SpanMarker 小模型,F1 分别从 87.0% 和 47.0% 提升至 93.4% 和 90.1%。
EU AI Act 已正式生效,可能适用于开源 AI 模型与系统,义务取决于模型类型和发布方式,多数情况下只需清晰文档、部署时披露模型信息并遵守现有版权与隐私规则。
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构,计划引入内容寻址存储(CAS)并自建传输协议,按字节级分析文件以加速模型与数据集仓库的大文件传输,该协议还能将 Safetensors 张量文件的上传速度提升 10-25%。
Hugging Face 发布 SmolVLM,一个 2B 参数、面向低内存占用的开源视觉语言模型,模型权重、数据集、训练配方和工具均以 Apache 2.0 许可开放。
Hugging Face 的 Xet 团队改用内容定义分块(CDC)存储文件,只传输和保存被修改的 chunk。对 CORD-19 数据集的测试显示,平均下载时间从 51 分钟降至 19 分钟,上传从 47 分钟降至 24 分钟,存储占用从 8.9 GB 降至 3.52 GB。
BAAI 推出 FlagEval Debate 平台,让大模型直接对辩,目前支持中文、英文、阿拉伯语和韩语四种语言。平台采用专家评审与用户投票的双重评估机制,并提供开发者自定义参数与实时调试能力,以解决静态评测和 Chatbot Arena 等现有平台缺乏区分度、模型各自生成不真正交互、投票存在风格偏好的问题。
Hugging Face 与跨机构项目 LLM-jp 合作推出 Open Japanese LLM Leaderboard,用于公开评测日语大语言模型。该排行榜基于超 20 个数据集、覆盖 16 项任务(从自然语言推理、机器翻译到代码生成与数学推理),采用 4-shot 设置,由 llm-jp-eval 评测套件驱动。
Hugging Face 博客介绍了源自 LayerSkip 论文的自推测解码(self-speculative decoding):用同一 LLM 的浅层生成草稿 token、深层负责验证,无需额外草稿模型即可同时提升速度并节省显存。
Hugging Face 博客介绍 Judge Arena 平台上线,用户可让两个 LLM 裁判对同一段模型输出打分并给出理由,再投票选出更认同的一方,投票结果按 Elo 分数汇总成公开榜单并每小时更新。
HF Mirror Hub 支持托管 TB 级数据集并配备 Dataset Viewer、全文搜索、排序与浏览器内 SQL Console,用户无需下载即可在线浏览和查询数据。
PyCharm 现已集成 Hugging Face,开发者可在 IDE 内右键 "Insert HF Model" 选择模型(如 microsoft/Phi-3.5-vision-instruct)并自动粘贴示例代码。
Argilla 2.4 推出无需代码的数据集构建功能,可直接从 Hugging Face Hub 导入数据集,通过 UI 定义问题并收集人工反馈。该功能支持从 Hub 上 230k 数据集中导入公开数据集,用于微调、评估和众包标注,部署在 Spaces 上默认启用 Hugging Face OAuth,便于社区协作。这是 Argilla 加入 Hugging Face 以来最具影响力的功能更新。