Open R1 更新:DeepSeek-V3 0324 上线 Hugging Face
DeepSeek-V3 的更新版 DeepSeek-V3-0324 本周出现在 Hugging Face Hub 上,架构与原始 V3 相同,许可证由自定义模型许可改为 MIT。
推荐理由:梳理了 DeepSeek-V3 更新版在数学与代码基准上的提升幅度,并给出本地部署与量化方案。
DeepSeek-V3 的更新版 DeepSeek-V3-0324 本周出现在 Hugging Face Hub 上,架构与原始 V3 相同,许可证由自定义模型许可改为 MIT。
推荐理由:梳理了 DeepSeek-V3 更新版在数学与代码基准上的提升幅度,并给出本地部署与量化方案。
Hugging Face 发布教程,介绍如何用 Sentence Transformers 库微调 reranker(Cross Encoder)模型,覆盖数据集、损失函数、训练参数、评估器和 CrossEncoderTrainer 各组件。
Hugging Face 已将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,约 6% 的 Hub 下载流量切换到 Xet 基础设施。Xet 采用内容定义分块(CDC),按约 64KB 块做字节级去重,改一个 Parquet 文件的一行只需上传变更块,而 LFS 需重传整个文件。2 月 20 日当天共迁移 4.5 TB 仓库数据,迁移后 CAS 的下载量一度达到返回给客户端的四倍。
Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。
推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。
Yaak 与 Hugging Face 的 LeRobot 团队联合发布 Learning to Drive(L2D),被称为全球最大的开源自动驾驶数据集,包含来自德国 30 个城市、60 辆驾校电动车、历时 3 年采集的 90+ TB 多模态数据,约 5000 小时驾驶记录。
推荐理由:L2D 开源数据集包含 5000+ 小时德国驾校数据,可用于 LeRobot 端到端自动驾驶模型的训练与闭环测试。
Hugging Face 发布博客,拆解每天 10 亿次以上分类与嵌入推理的成本与延迟计算方法。作者用 Inference Endpoints、HF Hub 库、Infinity 推理服务器和 k6 压测,在 nvidia-L4($0.8/hr)上跑出 10 亿次分类 $253.82、嵌入 $409.44,而 ColQwen2 视觉嵌入高达 $44,496.51。
Hugging Face 发布一套用于视频生成数据集的三阶段流水线工具,通过 yt-dlp 采集视频、Video to Scenes 切分片段,并用 LAION-5B-WatermarkDetection。
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,用 DeepSeek R1 在 512 张 H100 本地生成 400k 道题的解答,过滤后保留 220k 道含正确推理轨迹的题目。
Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2,升级阿拉伯语大模型评测榜。首版 OALL 上线不到 7 个月吸引超 46,000 名访客,收到 700 多个模型提交,参数从 1B 到 70B 以上,来自 180 多个机构,其中超 70% 为 chat 和微调模型,11% 为预训练模型,超半数模型小于 7B。
Adyen 和 Hugging Face 联合推出 DABstep,一个包含 450+ 真实数据分析任务的多步推理数据智能体基准,最强推理型智能体准确率仅 16%。
Hugging Face 的 Open-R1 项目启动一周后发布首份更新,称已能复现 DeepSeek 在 MATH-500 上报告的评测分数,并公开了评测排行榜。
推荐理由:Open-R1 团队复现 DeepSeek-R1 评测并公开数据生成与 GRPO 训练的工程细节,可供复现者参考。
Hugging Face 博客发布了一篇 RL 教程,用 GRPO 和 Countdown Game、以 Qwen2.5-3B-Instruct 为基座在 4x H100 上复现 DeepSeek R1 的 aha moment。
推荐理由:原文给出了在 4x H100 上用 GRPO 复现 R1 式推理的完整脚本、奖励函数与训练观察,可据此判断 RL 训练的实际收敛过程。
Hugging Face 启动 Open-R1 项目,计划系统性复现 DeepSeek-R1 的数据与训练流程,补上官方未公开的数据集和训练代码。该计划分三步:蒸馏高质量推理数据集复现 R1-Distill 模型,复刻 DeepSeek 用于 R1-Zero 的纯强化学习流程,并打通基础模型到 SFT 再到 RL 的多阶段训练。项目还计划把数据集拓展到代码和医学等领域,并向社区开放代码与讨论。
推荐理由:DeepSeek-R1 开源权重但未公开数据与训练代码,该项目计划补上蒸馏与纯 RL 复现路径。
NVIDIA 推出 Python 工具包 KVPress,通过多种 press 压缩 KV Cache,缓解长上下文 LLM 的显存瓶颈。以 Llama 3-70B 的 bfloat16 精度、1M token 上下文为例,KV Cache 独占 327.6GB,占约 470GB 总显存需求的 70%。
Hugging Face 为 Open LLM Leaderboard 加入模型推理的 CO₂ 排放估算,覆盖 3,000 多个模型的评测。数据显示模型越大排放越高但分数收益递减,MoE 模型的分数-排放比普遍偏低,而社区微调或合并模型往往比其官方基座更省碳。
Hugging Face 博客给出用 PyTorch 的 torch.cuda.memory 记录并可视化 GPU 显存占用的完整方法,把 profile.pkl 拖入 pytorch.org/memory_viz 即可看到显存随时间变化的图形。
推荐理由:用 PyTorch 自带的内存快照工具逐步拆解训练显存构成,并给出可套用的估算公式。
阿布扎比技术创新研究院(TII)发布 Falcon3 开源模型系列,包含 Falcon3-1B-Base、Falcon3-3B-Base、Falcon3-Mamba-7B-Base、Falcon3-7B-Base 和 Falcon3-10B-Base 五个基础模型,全部在 100 亿参数以下。
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4(第 5 代 Intel Xeon,Emerald Rapids,带 AMX)和 N2(第 3 代 Xeon,Ice Lake,仅 AVX-512)上对比测试文本嵌入与文本生成。
Hugging Face 发布 Synthetic Data Generator,让用户用自然语言描述需求,经三步流程生成自定义数据集,目前支持文本分类和对话两类任务。
Hugging Face 与 Entalpic 联合推出开源协作项目 LeMaterial,并首发 LeMat-Bulk 数据集,将 Materials Project、Alexandria 和 OQMD 三大材料数据库统一清洗标准化为 670 万条条目、7 项材料属性的单一格式,采用 CC-BY-4.0 许可。
Capital Fund Management(CFM)用 Llama 3.1 辅助标注金融新闻命名实体识别数据,再微调 GLiNER 与 SpanMarker 小模型,F1 分别从 87.0% 和 47.0% 提升至 93.4% 和 90.1%。
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构,计划引入内容寻址存储(CAS)并自建传输协议,按字节级分析文件以加速模型与数据集仓库的大文件传输,该协议还能将 Safetensors 张量文件的上传速度提升 10-25%。
Hugging Face 的 Xet 团队改用内容定义分块(CDC)存储文件,只传输和保存被修改的 chunk。对 CORD-19 数据集的测试显示,平均下载时间从 51 分钟降至 19 分钟,上传从 47 分钟降至 24 分钟,存储占用从 8.9 GB 降至 3.52 GB。
Hugging Face 与跨机构项目 LLM-jp 合作推出 Open Japanese LLM Leaderboard,用于公开评测日语大语言模型。该排行榜基于超 20 个数据集、覆盖 16 项任务(从自然语言推理、机器翻译到代码生成与数学推理),采用 4-shot 设置,由 llm-jp-eval 评测套件驱动。
HF Mirror Hub 支持托管 TB 级数据集并配备 Dataset Viewer、全文搜索、排序与浏览器内 SQL Console,用户无需下载即可在线浏览和查询数据。
Argilla 2.4 推出无需代码的数据集构建功能,可直接从 Hugging Face Hub 导入数据集,通过 UI 定义问题并收集人工反馈。该功能支持从 Hub 上 230k 数据集中导入公开数据集,用于微调、评估和众包标注,部署在 Spaces 上默认启用 Hugging Face OAuth,便于社区协作。这是 Argilla 加入 Hugging Face 以来最具影响力的功能更新。
Cohere 研究实验室 Cohere For AI 发布 Aya Expanse 系列多语言模型,包含 8B 和 32B 两个参数规模,并以开放权重形式发布。
推荐理由:原文给出 Aya Expanse 8B/32B 的对比胜率与技术管线细节,可了解多语言训练中数据套利与模型合并的具体做法。
Hugging Face 发布 CinePile 2.0 长视频问答数据集,并开源一种名为对抗式精炼的新方法。初版 CinePile 于 2024 年 5 月推出,含约 30 万训练样本和 5000 测试样本,人类在该基准上比最强商业视觉模型高出 25%、比开源模型高出 65%;2.0 版本由 HF Mirror 参与,针对退化问题和视觉依赖等缺陷做改进,该方法可直接用于强化现有数据集。
Hugging Face 修复了 Transformers Trainer 中梯度累积的损失计算 bug:按 token 级任务应将整个累积步的总损失除以全部非 padding token 数,而非对每个 batch 的损失取平均,此前开启与关闭梯度累积的两次训练损失对不上。
Hugging Face 展示如何用 Dask 将 FineWeb 数据集处理从 pandas 的 100 行扩展到云端多 GPU 上的 2.11 亿行,借助 FineWeb-Edu 分类器筛选高教育价值网页。
Hugging Face 的 Xet 团队针对 Hub 上超 2.2PB 的 Parquet 文件测试去重效果:追加 10,000 行可去重 99.1%,仅需额外 20MB 存储;而修改第 10000 行仅去重 89%,需额外 230MB。团队提出用相对偏移替代绝对偏移、按行组做内容定义分块两项改进思路,并与 Apache Arrow 探讨落地可能。
Hugging Face 发布 Open FinLLM Leaderboard,一个面向金融领域的专用大模型评测榜单,覆盖信息抽取、文本分析、问答、文本生成、风险管理、预测和决策七大类任务,采用零样本评估且无需微调。评测指标包括 Accuracy、F1 Score、ROUGE Score 和 MCC,任务数据集来自 FinQA、TATQA、ECTSum、EDTSum 等真实金融场景。
Hugging Face 发布 BenCzechMark,称其为首个也是最全面的捷克语 LLM 评测套件,含 50 项任务、9 个类别,90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型,覆盖阅读理解、事实知识、语言建模、数学推理等维度,评测指标包括 Acc、EM、AUROC 和词级困惑度。
Hugging Face 发布教程与 InstantTexture 库,可将顶点着色网格转换为 UV 映射的纹理网格,并导出为 .glb 文件。流程先用 xatlas 生成 UV 映射,再通过重心坐标插值填充 1024 尺寸纹理,最后用 inpainting、中值滤波、高斯模糊与降采样消除空洞和噪点。
Hugging Face 发布 FineVideo 数据集,包含 4.3 万条视频、总计 3400 小时,并标注了描述、叙事细节、场景切分和问答对。
Hugging Face 博客给出将现有模型微调到 1.58bit(三值权重 -1、0、1)的方法,用 Llama3 8B 从 10B token 微调后发布在 HF1BitLLM 组织下。
Hugging Face 为 Hub 上的 Datasets 推出 SQL Console,可在数据集页面一键打开,用 DuckDB WASM 在浏览器内本地执行查询,无需后端依赖。支持完整 DuckDB SQL 语法与正则、列表、JSON、嵌入向量等内置函数,结果可导出为 parquet,公开数据集查询结果还能通过链接分享。内存上限约 3GB,暂不支持 hf:// 协议。
Hugging Face 发布 Accelerate 1.0.0 的首个 release candidate,包已稳定近一年。1.0 加入 MS-AMP 和 TransformerEngine 的 FP8 支持、DeepSpeed 多模型编排(实验性)、大模型推理 API 的 torch.compile 支持等。
Hugging Face 的 LeRobot 提出 LeRobotDataset 格式,用视频编码替代逐帧 PNG 存储机器人视觉数据,数据集平均缩小到原体积的 14%,最好情况下仅 0.2%,同时保持完整训练能力。解码单帧耗时与 PNG 相当,连续多帧解码仅为 PNG 读取耗时的 25%-50%。该格式轻量、易分享并原生集成 Hugging Face Hub,还配套了可视化工具。
HF Mirror 在 Transformers 中新增 DataCollatorWithFlattening,让无填充的打包训练与 Flash Attention 2 兼容,通过保留样本边界避免跨样本注意力。