TII 发布 Falcon3 开源模型系列，含 1B 至 10B 参数及 Mamba-7B
阿布扎比技术创新研究院（TII）发布 Falcon3 开源模型系列，包含 Falcon3-1B-Base、Falcon3-3B-Base、Falcon3-Mamba-7B-Base、Falcon3-7B-Base 和 Falcon3-10B-Base 五个基础模型，全部在 100 亿参数以下。
#数据/训练
#数据/训练
今日 12 条Hugging Face BlogAI 评分5656 Hugging Face BlogAI 评分2727 在 GCP 第 5 代 Xeon 上基准测试语言模型性能
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4（第 5 代 Intel Xeon，Emerald Rapids，带 AMX）和 N2（第 3 代 Xeon，Ice Lake，仅 AVX-512）上对比测试文本嵌入与文本生成。
Hugging Face BlogAI 评分5656 Hugging Face 推出 Synthetic Data Generator，用自然语言无代码构建数据集
Hugging Face 发布 Synthetic Data Generator，让用户用自然语言描述需求，经三步流程生成自定义数据集，目前支持文本分类和对话两类任务。
Hugging Face BlogAI 评分4545 Hugging Face 与 Entalpic 联合发布开源材料发现项目 LeMaterial，首推 LeMat-Bulk 数据集
Hugging Face 与 Entalpic 联合推出开源协作项目 LeMaterial，并首发 LeMat-Bulk 数据集，将 Materials Project、Alexandria 和 OQMD 三大材料数据库统一清洗标准化为 670 万条条目、7 项材料属性的单一格式，采用 CC-BY-4.0 许可。
Hugging Face BlogAI 评分3636 CFM 案例：用 LLM 辅助标注微调小模型，NER 准确率提升 6.4%、成本降低 80 倍
Capital Fund Management（CFM）用 Llama 3.1 辅助标注金融新闻命名实体识别数据，再微调 GLiNER 与 SpanMarker 小模型，F1 分别从 87.0% 和 47.0% 提升至 93.4% 和 90.1%。
Hugging Face BlogAI 评分3535 Hugging Face 重新设计 Hub 上传下载架构，引入内容寻址存储
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构，计划引入内容寻址存储（CAS）并自建传输协议，按字节级分析文件以加速模型与数据集仓库的大文件传输，该协议还能将 Safetensors 张量文件的上传速度提升 10-25%。
Hugging Face BlogAI 评分3838 Hugging Face 用内容定义分块（CDC）提升 Hub 存储效率
Hugging Face 的 Xet 团队改用内容定义分块（CDC）存储文件，只传输和保存被修改的 chunk。对 CORD-19 数据集的测试显示，平均下载时间从 51 分钟降至 19 分钟，上传从 47 分钟降至 24 分钟，存储占用从 8.9 GB 降至 3.52 GB。
Hugging Face BlogAI 评分3232 Hugging Face 与 LLM-jp 联合发布日语 LLM 开放排行榜
Hugging Face 与跨机构项目 LLM-jp 合作推出 Open Japanese LLM Leaderboard，用于公开评测日语大语言模型。该排行榜基于超 20 个数据集、覆盖 16 项任务（从自然语言推理、机器翻译到代码生成与数学推理），采用 4-shot 设置，由 llm-jp-eval 评测套件驱动。
The GradientAI 评分2929 形状、对称性与结构：数学在机器学习研究中角色的转变
机器学习过去十年的进展表明，精心设计的数学化架构只带来边际提升，而算力驱动、工程优先的规模化路线却催生了现有理论无法预测的新能力。文章认为数学的角色正在演变：从提供性能理论保证，转向像物理学那样对训练与性能中的经验现象做事后解释，并更多用于架构与任务结构、数据对称性的高层匹配。规模化还让拓扑、代数、几何等"纯"数学领域加入机器学习，以应对深度学习的复杂性问题。
Hugging Face BlogAI 评分2727 Hugging Face 教你如何在 HF Mirror Hub 上分享开放 ML 数据集
HF Mirror Hub 支持托管 TB 级数据集并配备 Dataset Viewer、全文搜索、排序与浏览器内 SQL Console，用户无需下载即可在线浏览和查询数据。
Hugging Face BlogAI 评分3838 Argilla 2.4 发布：无需代码，在 Hub 上轻松构建微调与评估数据集
Argilla 2.4 推出无需代码的数据集构建功能，可直接从 Hugging Face Hub 导入数据集，通过 UI 定义问题并收集人工反馈。该功能支持从 Hub 上 230k 数据集中导入公开数据集，用于微调、评估和众包标注，部署在 Spaces 上默认启用 Hugging Face OAuth，便于社区协作。这是 Argilla 加入 Hugging Face 以来最具影响力的功能更新。
Hugging Face Blog精选AI 评分6060 Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
Cohere 研究实验室 Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数规模，并以开放权重形式发布。
推荐理由：原文给出 Aya Expanse 8B/32B 的对比胜率与技术管线细节，可了解多语言训练中数据套利与模型合并的具体做法。
Hugging Face BlogAI 评分2828 CinePile 2.0：用对抗式精炼打造更强的数据集
Hugging Face 发布 CinePile 2.0 长视频问答数据集，并开源一种名为对抗式精炼的新方法。初版 CinePile 于 2024 年 5 月推出，含约 30 万训练样本和 5000 测试样本，人类在该基准上比最强商业视觉模型高出 25%、比开源模型高出 65%；2.0 版本由 HF Mirror 参与，针对退化问题和视觉依赖等缺陷做改进，该方法可直接用于强化现有数据集。
Hugging Face BlogAI 评分4141 Hugging Face 修复 Transformers 梯度累积损失计算错误
Hugging Face 修复了 Transformers Trainer 中梯度累积的损失计算 bug：按 token 级任务应将整个累积步的总损失除以全部非 padding token 数，而非对每个 batch 的损失取平均，此前开启与关闭梯度累积的两次训练损失对不上。
Hugging Face BlogAI 评分3535 Hugging Face 用 Dask 扩展 AI 数据处理：从 100 行到 2.11 亿行
Hugging Face 展示如何用 Dask 将 FineWeb 数据集处理从 pandas 的 100 行扩展到云端多 GPU 上的 2.11 亿行，借助 FineWeb-Edu 分类器筛选高教育价值网页。
Hugging Face BlogAI 评分2727 HF Mirror 如何改进 Parquet 文件去重
Hugging Face 的 Xet 团队针对 Hub 上超 2.2PB 的 Parquet 文件测试去重效果：追加 10,000 行可去重 99.1%，仅需额外 20MB 存储；而修改第 10000 行仅去重 89%，需额外 230MB。团队提出用相对偏移替代绝对偏移、按行组做内容定义分块两项改进思路，并与 Apache Arrow 探讨落地可能。
Hugging Face BlogAI 评分3434 Hugging Face 推出 Open FinLLM Leaderboard，专注金融大模型评测
Hugging Face 发布 Open FinLLM Leaderboard，一个面向金融领域的专用大模型评测榜单，覆盖信息抽取、文本分析、问答、文本生成、风险管理、预测和决策七大类任务，采用零样本评估且无需微调。评测指标包括 Accuracy、F1 Score、ROUGE Score 和 MCC，任务数据集来自 FinQA、TATQA、ECTSum、EDTSum 等真实金融场景。
Hugging Face BlogAI 评分2121 Hugging Face 发布 BenCzechMark：首个捷克语 LLM 综合评测基准
Hugging Face 发布 BenCzechMark，称其为首个也是最全面的捷克语 LLM 评测套件，含 50 项任务、9 个类别，90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型，覆盖阅读理解、事实知识、语言建模、数学推理等维度，评测指标包括 Acc、EM、AUROC 和词级困惑度。
Hugging Face BlogAI 评分2727 如何将顶点着色网格转换为 UV 贴图纹理网格
Hugging Face 发布教程与 InstantTexture 库，可将顶点着色网格转换为 UV 映射的纹理网格，并导出为 .glb 文件。流程先用 xatlas 生成 UV 映射，再通过重心坐标插值填充 1024 尺寸纹理，最后用 inpainting、中值滤波、高斯模糊与降采样消除空洞和噪点。
Hugging Face BlogAI 评分5252 Hugging Face 详解 FineVideo 数据集构建：从 190 万条视频到 4.3 万条标注视频
Hugging Face 发布 FineVideo 数据集，包含 4.3 万条视频、总计 3400 小时，并标注了描述、叙事细节、场景切分和问答对。
Hugging Face BlogAI 评分5858 如何将 LLM 微调到 1.58bit：BitNet 极端量化实践
Hugging Face 博客给出将现有模型微调到 1.58bit（三值权重 -1、0、1）的方法，用 Llama3 8B 从 10B token 微调后发布在 HF1BitLLM 组织下。
Hugging Face BlogAI 评分4444 Hugging Face Datasets 上线 SQL Console
Hugging Face 为 Hub 上的 Datasets 推出 SQL Console，可在数据集页面一键打开，用 DuckDB WASM 在浏览器内本地执行查询，无需后端依赖。支持完整 DuckDB SQL 语法与正则、列表、JSON、嵌入向量等内置函数，结果可导出为 parquet，公开数据集查询结果还能通过链接分享。内存上限约 3GB，暂不支持 hf:// 协议。
Hugging Face BlogAI 评分5252 Hugging Face 发布 Accelerate 1.0.0 首个候选版
Hugging Face 发布 Accelerate 1.0.0 的首个 release candidate，包已稳定近一年。1.0 加入 MS-AMP 和 TransformerEngine 的 FP8 支持、DeepSpeed 多模型编排（实验性）、大模型推理 API 的 torch.compile 支持等。
Hugging Face BlogAI 评分3636 Hugging Face LeRobot 用视频编码压缩机器人数据集
Hugging Face 的 LeRobot 提出 LeRobotDataset 格式，用视频编码替代逐帧 PNG 存储机器人视觉数据，数据集平均缩小到原体积的 14%，最好情况下仅 0.2%，同时保持完整训练能力。解码单帧耗时与 PNG 相当，连续多帧解码仅为 PNG 读取耗时的 25%-50%。该格式轻量、易分享并原生集成 Hugging Face Hub，还配套了可视化工具。
Hugging Face BlogAI 评分3838 HF Mirror 用 Flash Attention 2 实现无填充打包，训练吞吐提升最高 2 倍
HF Mirror 在 Transformers 中新增 DataCollatorWithFlattening，让无填充的打包训练与 Flash Attention 2 兼容，通过保留样本边界避免跨样本注意力。
OpenAI NewsAI 评分2323 OpenAI 分享如何用 ChatGPT Enterprise 让员工以数据驱动工作
OpenAI 发布视频，展示员工如何使用 ChatGPT Enterprise 高效分析数据并挖掘洞察，给出多个实际应用示例。
Hugging Face BlogAI 评分5353 Hugging Face 收购 XetHub，计划改用自研存储后端替代 Git LFS
Hugging Face 宣布收购西雅图公司 XetHub，其 12 人团队将加入，目标是让 Hub 仓库改用自研的存储后端替代 Git LFS。XetHub 的技术可让 Git 扩展到 TB 级仓库，通过分块存储和去重，更新 10GB Parquet 文件中的一行只需重传包含新行的少量分块，而更新 GGUF 头部的单个元数据值也只需重传几 KB。
Hugging Face BlogAI 评分3232 Hugging Face 与 Albumentations AI 推出文档图像 TextImage 数据增强
Hugging Face 与 Albumentations AI 合作推出面向文档图像的 TextImage 数据增强流程，可同时修改图像和文本标注，将文本增广结果回填图像并做 inpaint。该流程支持随机插入、删除、交换和停用词替换，用于在数据有限时微调 VLM。
Hugging Face BlogAI 评分3232 Hugging Face 发布 Docmatix：面向文档视觉问答的超大规模数据集
Hugging Face 发布 Docmatix，一个规模达 240 倍于以往数据集的文档视觉问答（DocVQA）数据集，包含 240 万张图像和 950 万对 Q/A，源自 130 万份 PDF。
Hugging Face BlogAI 评分5858 NuminaMath 如何赢得首届 AIMO 进步奖
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖，在私有测试集 50 题中解出 29 题。
Hugging Face BlogAI 评分3232 Hugging Face 在 Dataset Hub 试验用 Presidio 自动检测 PII
Hugging Face 正在 Dataset Hub 上试验一项新功能，使用开源 PII 检测工具 Presidio 生成报告，估算数据集中个人信息的存在情况。该功能面向两类数据集：PII-Masking-300k 这类标注型 PII 数据集，以及常达 TB 级、经网页爬取得到的预训练数据集。报告可帮助开发者在训练前决定是否进一步过滤数据，也便于数据集所有者验证自身的 PII 过滤流程。
Hugging Face BlogAI 评分3737 Hugging Face TRL 库新增 VLM 直接偏好优化（DPO）支持
Hugging Face 的 TRL 库现已支持视觉语言模型（VLM）的直接偏好优化（DPO），可基于 chosen/rejected 答案对训练模型。教程以 Idefics2-8b 为例，并使用包含超 83,000 行标注的 openbmb/RLAIF-V-Dataset 数据集。TRL 的 DPO 实现还支持 Llava 1.5 和 PaliGemma 等模型。
Hugging Face BlogAI 评分2525 Hugging Face 为 Dataset Hub 推出四项数据集搜索新功能
Hugging Face 为 Dataset Hub 的 Dataset Search 上线四项新功能：按模态（文本、图像、音频、表格等）、按行数规模、按存储格式（如 Parquet、WebDataset）以及按兼容库（如 Pandas、Dask、Datasets）筛选数据集。行数超过 5GB 的超大数据集将以首 5GB 内容估算总行数，四项筛选条件还可与语言、任务、许可证等已有过滤器组合使用。
Hugging Face BlogAI 评分1414 ProtST 蛋白质语言模型在 Intel Gaudi 2 上加速推理与微调
基于文本提示的蛋白质设计多模态语言模型 ProtST 已在 Intel Gaudi 2 加速器上实现推理与微调：在 ProtST-SubcellularLocalization 测试集上。
Hugging Face Blog精选AI 评分7979 Google 发布 Gemma 2 开源大模型，9B 与 27B 双尺寸
Google 发布 Gemma 2 系列开源大语言模型，包含 9B 和 27B 两个尺寸的基础版与指令微调版，共 4 个开放权重模型，上下文长度 8K token。
推荐理由：详细拆解 Gemma 2 的滑动窗口注意力、软上限与蒸馏等改动，可作为理解这代开源模型训练思路的参考。
Hugging Face BlogAI 评分1616 XLSCOUT 推出专利与 IP 专用嵌入模型 ParaEmbed 2.0，获 HF Mirror 专家支持
XLSCOUT 发布面向专利与 IP 领域的专有嵌入模型 ParaEmbed 2.0，基于人工专家整理的多领域专利数据微调，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face BlogAI 评分4040 微调微软 Florence-2 视觉语言模型：在 DocVQA 上从 0 提升到 57.0
微软 6 月发布的 Florence-2 是 0.2B 和 0.7B 的基础视觉语言模型，支持 captioning、目标检测、OCR 等任务，但已发布模型不具备视觉问答能力。
Hugging Face BlogAI 评分2424 Hugging Face 通讯：为什么数据质量决定 AI 成败
Hugging Face 发文探讨数据质量为何是 AI 开发的关键，提出高质量数据应具备相关性、完整性、时效性与偏见缓解等特征。文章以 Reddit 与 Google 的 RAG 搜索合作失准（如推荐"给披萨加胶水"）为例，说明低质数据会拖累模型表现。作者主张将数据质量贯穿 AI 全生命周期，通过去重、内容过滤与人工反馈等策管流程提升模型稳健性、效率与公平性。
Hugging Face BlogAI 评分2626 Hugging Face 回顾“Data Is Better Together”数据集共建计划
Hugging Face 与 Argilla 合作的 Data Is Better Together 计划发布 DIBT/10k_prompts_ranked 数据集，吸引超 385 人参与提示词质量排名，并被用于训练 SPIN 等新模型。
Hugging Face BlogAI 评分3131 HF Mirror Accelerate 如何打通 DeepSpeed 与 FSDP：混合精度差异与 0.30.0 新模式
HF Mirror Accelerate 在 0.30.0 版本中为 FSDP 加入自动 upcasting，使其在混合精度下与 DeepSpeed 行为对齐，并新增"混合精度"与低精度两种 FSDP 模式。