用 🤗 Transformers、TensorFlow 和 TPU 从零训练语言模型
Hugging Face 发布端到端教程，演示用 🤗 Transformers、TensorFlow 和 TPU 从零训练一个 RoBERTa base 掩码语言模型，涵盖训练 tokenizer、处理 WikiText v1 数据集、生成 TFRecord 分片并上传至 Google Cloud Storage，以及最终模型训练与上传。
全部AI 动态
全部动态
今日 11 条Hugging Face BlogAI 评分3838
Hugging Face BlogAI 评分3131 Databricks 与 Hugging Face 合作：Spark 数据集加载提速超 40%
Databricks 向 Hugging Face 代码库提交首个官方贡献，新增 Datasets 的 `from_spark` 函数，让用户直接把 Apache Spark dataframe 映射为 Hugging Face Dataset，省去先写 Parquet 再重新加载的步骤。
Hugging Face BlogAI 评分4848 如何在免费版 Google Colab 上用 🧨 diffusers 运行 IF 文生图模型
DeepFloyd 的像素级文生图模型 IF 可在免费版 Google Colab 上通过 🧨 diffusers 运行，T5-XXL 文本编码器经 bitsandbytes 8bit 量化后仅需约 8GB 显存即可加载。IF 直接在像素空间去噪并以 T5-XXL 替代 CLIP 作为文本编码器，擅长生成人脸、手部等高频细节，也是首个能可靠生成图像文字的開源图像生成模型。
Hugging Face BlogAI 评分1818 Hugging Face 推出中文博客，携手中国 AI 社区推动协作
Hugging Face 上线面向中文用户的中文博客 hf.co/blog/zh，由志愿者翻译其博客文章及 transformers、diffusion、强化学习等课程内容。
Hugging Face BlogAI 评分3535 HF Mirror 用 AWS Inferentia2 加速 Transformer 推理
Hugging Face 与 AWS 合作，将 HF Mirror Transformers 针对 AWS Inferentia2 推理加速器优化，配合 optimum neuron 无需切分或改动模型，一行代码即可编译。
Hugging Face BlogAI 评分2727 如何用 Transformers 库做图分类：以微软 Graphormer 为例
Hugging Face 博客介绍如何用 Transformers 库（需 >= 4.27.2）进行图分类，目前库中唯一的图 Transformer 模型是微软的 Graphormer。
Hugging Face BlogAI 评分1818 Hugging Face 与 Substra 合作推出联邦学习演示空间，打造隐私保护 AI
Hugging Face 与开源联邦学习框架 Substra 合作创建了一个演示空间，让用户体验真实世界中高质量数据匮乏的困境，并对比联邦学习与单一数据源训练的模型表现。Substra 专为生产环境设计，已在乳腺癌研究等复杂医疗场景中实现突破。
Hugging Face BlogAI 评分2424 Snorkel AI 与 Hugging Face 合作，为企业解锁基础模型能力
Snorkel AI 宣布与 Hugging Face 合作，将 Hugging Face 的 Inference Endpoint 服务集成进 Snorkel Flow 平台，让企业用户可直接调用 Hugging Face 上超过 150,000 个开源模型。该服务支持几次点击创建模型 API，并具备暂停与恢复能力，客户不用时可休眠以控制成本。
Hugging Face Blog精选AI 评分6161 StackLLaMA：用 RLHF 训练 LLaMA 的实操指南
Hugging Face 发布 StackLLaMA 模型及完整训练流程，用 SFT、奖励模型和 RLHF 三步训练 LLaMA 在 Stack Exchange 上答题，并开源了基于 TRL 库的全部训练管线。
推荐理由：原文完整披露了 RLHF 三步训练流程和踩坑细节，读者可据此复现或在单卡上跑起自己的对齐实验。
Hugging Face BlogAI 评分2929 Hugging Face 发布 Ethics and Society Newsletter #3：探讨开放 ML 的伦理与保障机制
Hugging Face 发布 Ethics and Society Newsletter #3，阐述其在开放 ML 中兼顾伦理的立场，并推出 6 类伦理标签（Rigorous、Consentful、Socially Conscious、Sustainable、Inclusive、Inquisitive）和社区举报功能，用于标记违规的模型、数据集或 Space。
Hugging Face BlogAI 评分4141 BLOOMZ 在 Habana Gaudi2 上的快速推理：176B 模型快于 A100 80GB
Habana Gaudi2 在 176B 参数 BLOOMZ 上推理延迟为 3.103 秒，比 Nvidia A100 80GB 的 4.402 秒快 1.42 倍，7B 版本则快 2.89 倍。
Hugging Face BlogAI 评分4040 在 Intel CPU 上加速 Stable Diffusion 推理
Hugging Face 展示如何用 Optimum Intel 与 OpenVINO 在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理。
Hugging Face BlogAI 评分3333 用 HF Mirror 和 Flower 实现联邦学习：微调 distilBERT 做 IMDB 情感分类
Hugging Face 发布教程，演示如何用 HF Mirror 的 Transformers、Datasets 库结合 Flower 框架，在多个客户端上联邦微调预训练 Transformer 模型 distilBERT，用于 IMDB 影评正负情感分类。
Hugging Face BlogAI 评分2020 用 diffusers 训练你自己的 ControlNet
Hugging Face 发布教程，介绍如何用 diffusers 训练 ControlNet。整个流程分三步：确定条件类型、构建含 ground truth image。
Hugging Face BlogAI 评分1919 Hugging Face Hub 改进 Jupyter Notebook 托管与渲染支持
Hugging Face Hub 现已支持 Jupyter Notebook 的渲染，notebook 将以人类可读的格式展示，此前直接查看的是 ipynb 的 JSON 源文件。Hub 上已托管超过 7,000 个 notebook，以及 150,000 个模型、25,000 个数据集和 30,000 个 ML 应用。notebook 还支持在 Google Colab 中一键直接打开。
Hugging Face BlogAI 评分3939 Hugging Face 在 Transformers 中上线 Informer，支持多变量概率时间序列预测
Hugging Face 将 AAAl21 最佳论文提出的 Informer 模型集成进 🤗 Transformers，用于多变量概率时间序列预测，即预测未来时间序列目标值向量的分布。
Hugging Face Blog精选AI 评分7171 trl 与 peft 集成，可在 24GB 消费级 GPU 上用 RLHF 微调 20B 大模型
Hugging Face 官方发布 trl 与 peft 的集成，让使用 RLHF 的大语言模型微调更易上手。
推荐理由：原文给出 trl 与 peft 集成后在 24GB 消费级 GPU 上微调 20B 参数模型的完整路径，便于读者评估自身显存条件下的可行性。
Hugging Face Blog精选AI 评分6565 Kakao Brain 发布 ViT 与 ALIGN 模型及 7 亿对图文数据集 COYO
Kakao Brain 与 Hugging Face 发布开源图文数据集 COYO（7 亿对）以及基于该数据集训练的 ViT 和 ALIGN 两个视觉语言模型，这是 ALIGN 首次免费开源，也是 ViT、ALIGN 首次附带公开训练数据发布。
推荐理由：首个开源 ALIGN 模型连同 700M 训练数据集一并放出，读者可据此判断复现视觉语言建模的可行性。
Hugging Face BlogAI 评分4848 用机器学习救助土耳其地震幸存者：Hugging Face 上的 afetharita 实战
2023 年土耳其地震后，志愿者团队开发了灾害地图应用 afetharita，从社交媒体推文中提取幸存者的地址与求助需求。团队用 easyocr 做 OCR、基于 transformers 微调 NER 模型（以 bert-base-turkish-cased 为基座）抽取地址，并通过 Hugging Face Inference API 部署。
Hugging Face Blog精选AI 评分7878 Diffusers 集成 ControlNet：StableDiffusionControlNetPipeline 使用教程
Hugging Face 博客介绍 Diffusers 中的 StableDiffusionControlNetPipeline，并演示用 Canny、OpenPose 等条件控制 Stable Diffusion 生成图像。
推荐理由：官方教程给出 ControlNet 在 Diffusers 中的完整用法，并配可运行代码与显存推理耗时对比，便于复现其各类条件控制。
Hugging Face BlogAI 评分2222 Hugging Face 发布 Diffusers 库伦理准则
Hugging Face 为 Diffusers 库发布了一套伦理框架，用于指导维护者处理社区贡献时的技术决策。该准则明确了透明、一致性、简洁、无障碍、可复现与责任等价值观，并列举了社区讨论区、"Not For All Eyes"标签、Stable Diffusion 偏见探索 Space、Safe Stable Diffusion、Hub 分阶段发布及 OpenRAILs 许可等安全机制。
Hugging Face BlogAI 评分1919 HF Mirror 如何加速 Witty Works 写作助手的开发
HF Mirror 专家加速计划帮助 Witty Works 将包容性写作助手的非包容性词汇分类器从 BERT 词嵌入切换到 Sentence Transformers 句嵌入，并采用 SetFit 少样本微调，每个词仅需 15-20 条标注句子即可达到可用效果，省去大规模标注成本。
Hugging Face BlogAI 评分4747 Hugging Face 发布 Swift 🧨Diffusers 1.1：Mac 原生 Stable Diffusion 应用提速至多两倍
Hugging Face 在 Mac App Store 上线 🧨Diffusers for Mac 1.1，将社区贡献的 SoTA 文生图模型转换为 Core ML，可同时调用 CPU、GPU 和 Neural Engine，部分 Mac 上生成速度最高提升至两倍。
Hugging Face BlogAI 评分3030 Hugging Face 解读大语言模型的红队测试（Red-Teaming）
Hugging Face 发文解读大语言模型的红队测试（Red-Teaming）：通过构造自然语言提示词诱导 LLM 暴露有害输出，并对模型进行修正，与人类难以理解的对抗攻击不同。文章指出人类或 LM 均可充当红队，对经 RLHF 或 SFT 对齐的模型需用角色扮演等方式越狱；Tay、Sydney 是缺乏红队评估的真实教训，Meta、Anthropic、AI2 已开源相关数据集。
Hugging Face BlogAI 评分1616 Fetch 借 HF Mirror 与 AWS 整合 AI 工具，开发时间省 30%
Fetch 借助 AWS Partner HF Mirror 的 Expert Acceleration Program，将原本外包的收据识别 AI 换成自研模型，开发时间缩短 30%，处理延迟降低 50%，目前每天可处理超 1100 万张收据，服务 1800 万月活用户。
Hugging Face BlogAI 评分4444 HF Mirror 与 AWS 达成长期战略合作，让 AI 更开放可及
Hugging Face 与 AWS 扩大长期战略合作，Hugging Face 将把 AWS 作为首选云服务商，社区开发者可用 Amazon SageMaker、AWS Trainium 和 AWS Inferentia 训练、微调并部署模型。
Hugging Face BlogAI 评分5858 用 Hugging Face Transformers 实现 BLIP-2 零样本图像到文本生成
Hugging Face Blog 发布指南，介绍 Salesforce Research 的 BLIP-2 视觉语言模型已集成到 Transformers，可通过 Q-Former 连接冻结的图像编码器与大语言模型，完成图像描述、提示式图像描述、视觉问答和对话式提示。
Hugging Face BlogAI 评分3030 Hugging Face 为何把 ML 模型推理迁到 Inference Endpoints
Hugging Face 将部分 CPU 推理模型从 AWS ECS + Fargate 迁移到自家 Inference Endpoints 托管服务，部署流程简化为训练、上传 Hub、一键部署三步。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 PEFT 库，支持低显存微调大语言模型
Hugging Face 发布 PEFT 库，通过只微调少量额外参数并冻结预训练模型大部分参数来降低计算与存储开销，并已集成 Transformers 和 Accelerate。
推荐理由：官方给出 PEFT 库支持的方法与消费级硬件训练示例，可用于判断低显存微调方案的可行性。
Hugging Face BlogAI 评分5858 Hugging Face 在 Transformers 中集成 SpeechT5 语音模型
Hugging Face 宣布 SpeechT5 正式集成进 Transformers，官方权重已发布在 HF Mirror Hub，并提供语音合成、音色转换和语音识别三个在线 demo。
Hugging Face BlogAI 评分2626 Hugging Face 推出 AI vs. AI：深度强化学习多智能体竞赛系统
Hugging Face 发布开源工具 AI vs. AI，在 Spaces 上托管多智能体竞赛，用 ELO 评分系统对提交到 Hub 的强化学习模型进行相对排名，新模型起始分为 1200。
Hugging Face BlogAI 评分2727 AI 游戏开发实战：用 ChatGPT 生成游戏剧情
Hugging Face 的 AI for Game Development 系列第 5 篇展示了用 ChatGPT 为农场游戏生成剧情的流程：让它写故事梗概、游戏内文本和商店物品描述，再通过多轮对话反复修改。
Hugging Face BlogAI 评分3434 用 Intel Sapphire Rapids 加速 PyTorch Transformers：推理性能实测（第二部分）
Hugging Face 与 Intel 实测在 Sapphire Rapids 服务器上搭配 Optimum Intel 和 Intel Extension for PyTorch 运行 PyTorch Transformers 推理。
Hugging Face BlogAI 评分3636 Hugging Face 博客：深入解析视觉语言模型及其训练策略
Hugging Face 博客梳理了视觉语言模型（VLM）的训练方法，涵盖对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 以及免训练五类策略。文章以 OpenAI 的 CLIP 为例说明对比学习如何将图文映射到同一特征空间，并介绍了 CLOOB、ALIGN、DeCLIP、LiT 等模型，同时说明如何用 Transformers 库上手这些模型。
Hugging Face BlogAI 评分2727 HF Mirror 计算机视觉现状：8 大任务、3000+ 模型与 100+ 数据集
HF Mirror 回顾其计算机视觉生态：已支持图像分类、图像分割、零样本目标检测、视频分类、深度估计等 8 个核心视觉任务，Hub 上相关模型超过 3000 个、数据集超过 100 个，且每个任务至少有 10 个模型 checkpoint 可供使用。
Hugging Face BlogAI 评分3434 2D 资产生成：用 Stable Diffusion 做游戏开发 #4
在 AI for Game Development 系列第 4 天，Hugging Face 展示如何把 Stable Diffusion 的 Image2Image 作为工具嵌入传统 2D 美术流程，用来生成农场游戏图标。
Hugging Face Blog精选AI 评分8282 用 LoRA 高效微调 Stable Diffusion：diffusers 支持与实测流程
Hugging Face 在 diffusers 中正式加入 LoRA 微调支持，可在 11 GB 显存的 2080 Ti 上训练 Stable Diffusion，微调权重文件仅约 3 MB，比 UNet 原模型小约一千倍。
推荐理由：以 11 GB 显存训 Stable Diffusion 的完整命令与推理代码为例，展示 LoRA 把微调权重压到 3 MB 的可行路径。
Hugging Face BlogAI 评分3434 对话式 AI 智能体如何变得有用？解析 RLHF、IFT、CoT 等关键技术
Hugging Face 梳理了让对话式 AI 智能体真正有用的关键技术，包括 RLHF、IFT、SFT、CoT 与红队测试，并对比了 LaMDA、BlenderBot 3、Sparrow、ChatGPT/InstructGPT 与 Anthropic Assistant 的架构、训练数据与评估标准。
Hugging Face BlogAI 评分4444 Hugging Face Optimum + ONNX Runtime：让模型训练更快更简单
Hugging Face 的 Optimum 库通过与 ONNX Runtime 集成进行训练，可将众多热门 Hugging Face 模型的训练时间提升 35% 以上。
Hugging Face BlogAI 评分1717 3D 资产生成：AI 游戏开发实战（第 3 天）
在“AI for Game Development”系列第 3 天，作者指出 text-to-3D 目前还无法真正用于游戏开发：DreamFusion、Point-E、CLIP-NeRF 等方案多基于视角合成，产出的 mesh 不能直接用于游戏，需要大量人工后处理。作者因此在本作中直接用不同颜色的方块代表农作物，并认为未来突破点在于 NeRF-to-mesh 与 mesh 生成的改进。