如何用 distilabel 构建 Argilla 2.0 聊天机器人
Hugging Face 团队展示如何借助 distilabel 为 Argilla 2.0 构建能理解技术文档的聊天机器人：先从 GitHub 文档生成合成数据集并微调领域专用嵌入模型，再用向量数据库存储和检索文档，最后将 Gradio 应用部署到 HF Spaces，并把交互记录存入 Argilla 持续评估改进。
#Hugging Face
#Hugging Face
今日 2 条Hugging Face BlogAI 评分2727
Hugging Face BlogAI 评分5858 NuminaMath 如何赢得首届 AIMO 进步奖
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖，在私有测试集 50 题中解出 29 题。
Hugging Face BlogAI 评分3232 Hugging Face 在 Dataset Hub 试验用 Presidio 自动检测 PII
Hugging Face 正在 Dataset Hub 上试验一项新功能，使用开源 PII 检测工具 Presidio 生成报告，估算数据集中个人信息的存在情况。该功能面向两类数据集：PII-Masking-300k 这类标注型 PII 数据集，以及常达 TB 级、经网页爬取得到的预训练数据集。报告可帮助开发者在训练前决定是否进一步过滤数据，也便于数据集所有者验证自身的 PII 过滤流程。
Hugging Face BlogAI 评分2929 Hugging Face Hub 与 KerasHub 打通：可直接加载 Transformers 模型
Hugging Face Hub 与 KerasHub 完成集成，两者共用模型保存格式，Hub 上 30 万+ Transformers 模型现可直接加载进 KerasHub。首批支持 Gemma 1/2、Llama 3 和 PaliGemma，KerasHub 此前仅能使用 33 个 Keras 模型。加载后的模型可在 TensorFlow、JAX、PyTorch 后端间一行代码切换。
Hugging Face BlogAI 评分3737 Hugging Face TRL 库新增 VLM 直接偏好优化（DPO）支持
Hugging Face 的 TRL 库现已支持视觉语言模型（VLM）的直接偏好优化（DPO），可基于 chosen/rejected 答案对训练模型。教程以 Idefics2-8b 为例，并使用包含超 83,000 行标注的 openbmb/RLAIF-V-Dataset 数据集。TRL 的 DPO 实现还支持 Llava 1.5 和 PaliGemma 等模型。
Hugging Face BlogAI 评分2121 Banque des Territoires × Polyconseil × HF Mirror：用主权数据方案支持法国校园绿色改造项目
Banque des Territoires（CDC 集团）、Polyconseil 与 HF Mirror 合作，为 EduRénov 校园生态改造计划搭建基于 RAG 的主权数据方案，项目第一阶段已完成。
Hugging Face BlogAI 评分4444 HF Mirror Inference Endpoints 和 Spaces 正式支持 Google Cloud TPU
HF Mirror 在 Inference Endpoints 和 Spaces 中上线 Google TPU v5e，提供 v5litepod-1（1 核 16 GB，$1.375/小时）、v5litepod-4（4 核 64 GB，$5.50/小时）和 v5litepod-8（8 核 128 GB，$11.00/小时）三种配置。
Hugging Face BlogAI 评分2525 Hugging Face 为 Dataset Hub 推出四项数据集搜索新功能
Hugging Face 为 Dataset Hub 的 Dataset Search 上线四项新功能：按模态（文本、图像、音频、表格等）、按行数规模、按存储格式（如 Parquet、WebDataset）以及按兼容库（如 Pandas、Dask、Datasets）筛选数据集。行数超过 5GB 的超大数据集将以首 5GB 内容估算总行数，四项筛选条件还可与语言、任务、许可证等已有过滤器组合使用。
Hugging Face BlogAI 评分5656 Hugging Face Transformers Code Agent 登顶 GAIA 基准
Hugging Face 用 Transformers Agents 库构建的 Code Agent 在 GAIA 基准验证集上取得 44.2%，排名第一，比第二名高 4 个百分点；测试集成绩为 33.3%，排名第二，并在最难的 Level 3 问题上取得最佳平均分。
Hugging Face Blog精选AI 评分7979 Google 发布 Gemma 2 开源大模型，9B 与 27B 双尺寸
Google 发布 Gemma 2 系列开源大语言模型，包含 9B 和 27B 两个尺寸的基础版与指令微调版，共 4 个开放权重模型，上下文长度 8K token。
推荐理由：详细拆解 Gemma 2 的滑动窗口注意力、软上限与蒸馏等改动，可作为理解这代开源模型训练思路的参考。
Hugging Face BlogAI 评分1616 XLSCOUT 推出专利与 IP 专用嵌入模型 ParaEmbed 2.0，获 HF Mirror 专家支持
XLSCOUT 发布面向专利与 IP 领域的专有嵌入模型 ParaEmbed 2.0，基于人工专家整理的多领域专利数据微调，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face BlogAI 评分4040 微调微软 Florence-2 视觉语言模型：在 DocVQA 上从 0 提升到 57.0
微软 6 月发布的 Florence-2 是 0.2B 和 0.7B 的基础视觉语言模型，支持 captioning、目标检测、OCR 等任务，但已发布模型不具备视觉问答能力。
Hugging Face BlogAI 评分2424 Hugging Face 通讯：为什么数据质量决定 AI 成败
Hugging Face 发文探讨数据质量为何是 AI 开发的关键，提出高质量数据应具备相关性、完整性、时效性与偏见缓解等特征。文章以 Reddit 与 Google 的 RAG 搜索合作失准（如推荐"给披萨加胶水"）为例，说明低质数据会拖累模型表现。作者主张将数据质量贯穿 AI 全生命周期，通过去重、内容过滤与人工反馈等策管流程提升模型稳健性、效率与公平性。
Hugging Face BlogAI 评分2626 Hugging Face 回顾“Data Is Better Together”数据集共建计划
Hugging Face 与 Argilla 合作的 Data Is Better Together 计划发布 DIBT/10k_prompts_ranked 数据集，吸引超 385 人参与提示词质量排名，并被用于训练 SPIN 等新模型。
Hugging Face BlogAI 评分1616 Prezi 借助 Hugging Face Expert Support Program 加速多模态 ML 路线图
在线演示工具 Prezi 加入 Hugging Face Expert Support Program，借助专家指导把更小、更高效的开源模型集成进其 ML 工作流。
Hugging Face BlogAI 评分3131 HF Mirror Accelerate 如何打通 DeepSpeed 与 FSDP：混合精度差异与 0.30.0 新模式
HF Mirror Accelerate 在 0.30.0 版本中为 FSDP 加入自动 upcasting，使其在混合精度下与 DeepSpeed 行为对齐，并新增"混合精度"与低精度两种 FSDP 模式。
Hugging Face BlogAI 评分4343 Hugging Face TRL 推出 RLOO Trainer，把强化学习带回 RLHF
Hugging Face 在 TRL 中推出 RLOO Trainer，一种作为 PPO 替代方案的在线 RLHF 训练算法。RLOO 显存占用比 PPO 少约 50-70%，1B 模型上速度是 PPO 的 2 倍，6.9B 模型上最高 3 倍，且只需加载策略、参考策略和奖励模型 3 份模型。其回复胜率（由 GPT4 评判）与 PPO 相当，并持续优于 DPO 等离线方法。
Hugging Face Blog精选AI 评分6767 Diffusers 支持 Stable Diffusion 3 Medium，含内存与性能优化
Stability AI 发布 Stable Diffusion 3 Medium，参数量 2B，现已在 Hugging Face Hub 上线并可配合 🧨 Diffusers 使用。
推荐理由：SD3 Medium 在 Diffusers 中集成的完整说明，含内存优化与 LoRA 微调脚本，适合评估其部署可行性。
Hugging Face BlogAI 评分3636 Hugging Face 推出面向 Amazon SageMaker 的 Embedding Container 正式版
Hugging Face 的 HF Mirror Embedding Container for Amazon SageMaker 正式可用（GA），AWS 客户可在 SageMaker 上部署嵌入模型以构建 RAG 等生成式 AI 应用。
Hugging Face BlogAI 评分2222 Hugging Face 将重新设计 Transformers 文档
Hugging Face 宣布重新设计 Transformers 文档，解决内容分散、导航困难、结构过时的问题。新文档将更面向开发者，采用代码优先和解决方案导向的呈现方式，并放弃此前严格套用 Diátaxis 四分类的僵硬结构，让文档能自然生长。
Hugging Face BlogAI 评分4040 Artificial Analysis 发布文生图排行榜与竞技场，用4.5万人类偏好投票给图像模型排名
Artificial Analysis 推出文生图排行榜与 Image Arena，基于超 45,000 条人类图像偏好投票、以类似 Chatbot Arena 的 ELO 回归为各模型打分，每个模型生成超 700 张覆盖人像、动物、自然、艺术等类别的图像。
Hugging Face BlogAI 评分4545 Hugging Face 推出 NPC-Playground：可与 LLM 驱动的 NPC 互动的 3D 演示
Cubzh 与 Gigax 联合在 Hugging Face Spaces 上线 NPC-Playground 3D 演示，用户可直接在浏览器中与 LLM 驱动的 NPC 对话。
Hugging Face BlogAI 评分2323 Hugging Face 为 Intel Gaudi 优化辅助生成，加速文本生成
Hugging Face 将辅助生成（Assisted Generation）适配并优化到 Intel Gaudi，现已集成进 Optimum Habana。该方法基于 Speculative Sampling，用草稿模型生成 K 个 token 再由目标模型评估，对大型 Transformer 模型通常可获得约 2x 加速，同时保持与自回归采样相同的采样质量。
Hugging Face BlogAI 评分4848 Hugging Face 披露 Spaces 平台密钥遭未授权访问，已撤销相关 HF token
Hugging Face 检测到其 Spaces 平台遭未授权访问，涉及 Spaces secrets，怀疑部分密钥已被读取。作为补救，官方已撤销这些 secrets 中的若干 HF token 并邮件通知相关用户，同时引入 KMS、移除 org token，并建议用户改用细粒度访问 token。该事件已上报执法机构和数据保护机构，公司正联合外部网络安全取证专家调查。
Hugging Face BlogAI 评分4141 Hugging Face 如何用 TGI Benchmarking 工具评测文本生成推理
Hugging Face 发布 TGI Benchmarking 工具，用于在吞吐量之外对 Text Generation Inference 部署做性能剖析，展示不同批大小下的延迟与吞吐权衡。该工具随 TGI 安装，需在服务器端运行，作者提供了可直接复制的 HF Space，内含 TGI docker 镜像与 jupyter lab，并通过 CLI 执行评测。
Hugging Face BlogAI 评分5050 用 Sentence Transformers 训练和微调嵌入模型
Hugging Face 发布博客，介绍如何用 Sentence Transformers 训练和微调嵌入模型，也可从零训练新模型。训练流程涵盖数据集、损失函数、训练参数、评估器和 Trainer 五个组件，数据可来自 HF Hub 或本地 CSV、JSON、Parquet、Arrow、SQL；数据集列顺序须与所选损失函数匹配，且 "label" 或 "score" 列用于提供标签。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon 2 系列：11B 预训练语言模型与视觉语言模型
TII 发布 Falcon 2 系列模型，包括 11B 基础 LLM 和 11B 视觉语言模型（VLM），后者在 LLM 之上接入预训练 CLIP ViT-L/14 视觉编码器并支持图像问答。
推荐理由：官方给出 11B LLM 与 VLM 的训练细节和基准对比，可据此判断小尺寸开源多模态模型的性能位置。
Hugging Face BlogAI 评分4040 HF Mirror 支持从 Hub 直接部署模型到 AWS Inferentia2
HF Mirror 将 AWS Inferentia2 部署能力开放给 Hub 用户，覆盖超过 100,000 个公开模型，新增 albert、bert、roberta、vit、xlm-roberta 等 14 种模型架构和 text-classification、text-generation、question-answering 等 6 类任务。
Hugging Face BlogAI 评分3636 HF Mirror 与微软深化合作：Azure 上开放模型 1 键部署与 Spaces Dev Mode
HF Mirror 与微软在 Microsoft Build 上宣布深化合作，Azure Model Catalog 的 HF Mirror Collection 新增 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等开放模型，支持 1 键部署。
Hugging Face BlogAI 评分4747 HF Mirror 在 AMD Instinct MI300 GPU 上实现一等公民集成
Hugging Face 与 AMD 合作，使 AMD Instinct MI300 GPU 在 HF Mirror 平台获得一等公民集成，用户无需改动代码即可通过 transformers 和 text-generation-inference 在 Azure ND MI300x V5 上部署模型。
Hugging Face BlogAI 评分2525 Hugging Face Spaces 推出 Dev Mode，支持一键连接 VS Code 和 SSH
Hugging Face 为 Spaces 推出 Dev Mode，可一键通过 VS Code 或 SSH 直连 Space，直接在 Space 内编辑代码，无需再用 git 推送本地改动。该功能目前处于 beta 阶段，仅面向 PRO 订阅用户开放，在 Space 设置中启用后会自动重启，改完代码点 Refresh 即可测试，满意后再 commit 和 merge 保存。
Hugging Face BlogAI 评分3535 Hugging Face 与 Dell 推出 Dell Enterprise Hub，本地训练部署开源模型
Hugging Face 发布 Dell Enterprise Hub，可在 Dell 平台上本地训练和部署开源模型，把数周的工程工作缩短到几分钟。该 Hub 汇集 Llama 3、Mixtral、Gemma 等模型，用户凭 HF 账号即可访问并按许可证或模型规模筛选，选定 Dell 平台和 GPU 数量后粘贴脚本即可部署为 API endpoint，微调同样在本地完成。
Hugging Face BlogAI 评分4343 Hugging Face 为 Transformers 推出 KV Cache 量化，支持更长文本生成
Hugging Face 为 Transformers 推出 KV Cache Quantization，通过降低 KV cache 精度减少长上下文生成的内存占用，质量损失很小，并可在内存效率与生成速度间自定义权衡。
Hugging Face BlogAI 评分3131 Hugging Face 推出 Open Arabic LLM Leaderboard 阿拉伯语大模型评测榜
Hugging Face 发布 Open Arabic LLM Leaderboard（OALL），专为评估和对比阿拉伯语 LLM 性能而设，服务全球超 3.8 亿阿拉伯语使用者。
Hugging Face Blog精选AI 评分7070 Google 发布开源视觉语言模型 PaliGemma
Google 发布视觉语言模型系列 PaliGemma，由 SigLIP-So400m 图像编码器和 Gemma-2B 文本解码器组成，可输入图像和文本并输出文本。
推荐理由：梳理了 PaliGemma 的架构、三种权重类型与分辨率选择建议，方便判断是否适合自身微调任务。
Hugging Face BlogAI 评分2626 HF Mirror 与 LangChain 推出合作包 langchain_huggingface
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface，可通过 pip install langchain-huggingface 安装。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布 Transformers Agents 2.0，在原有 agent 类型外新增可基于历史观测迭代的 agent，并将代码与常用属性设计得清晰、模块化，同时加入 agent 分享功能。
推荐理由：官方给出新 Agent 框架的模块设计与 GAIA 榜单实测，读者可据此比较不同 LLM 引擎的 agent 表现。
Hugging Face BlogAI 评分2626 用 Intel Gaudi 2 和 Intel Xeon 构建高性价比企业级 RAG 应用
Intel 展示了基于 OPEA（Open Platform for Enterprise AI）的企业级 RAG 方案，使用 LangChain 的 rag-redis 模板、BAAI/bge-base-en-v1.5 嵌入模型与 Redis 向量数据库，嵌入模型跑在 Intel Granite Rapids CPU 上、LLM 跑在 Gaudi 2 加速器上。
Hugging Face BlogAI 评分1818 如何用 AWS 账号订阅 HF Mirror Enterprise Hub
HF Mirror 组织现在可以通过 AWS 账号在 AWS Marketplace 升级到 Enterprise Hub。该订阅提供单点登录、资源组、欧洲存储区域、审计日志、更高配额的 GPU、私有数据集查看器，并可在 NVIDIA DGX Cloud 上用 H100 GPU 免代码训练 LLM。
Hugging Face BlogAI 评分1818 Hugging Face 推出希伯来语 LLM 开放排行榜
Hugging Face 发布面向希伯来语的开放 LLM 排行榜，用于评测和提升希伯来语语言模型。榜上包含四个基准：希伯来语问答（HeQ 测试子集）、情感准确率、Winograd Schema Challenge 希伯来语翻译版和英希互译，均采用 few-shot 提示格式。