跳到正文

#数据/训练

今日 1 条
3月27日周四
3月26日周三
3月18日周二
  1. Hugging Face Blog43

    Hugging Face 将 Xet 存储上线 Hub,首批模型与数据集仓库已从 LFS 迁移

    Hugging Face 已将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,约 6% 的 Hub 下载流量切换到 Xet 基础设施。Xet 采用内容定义分块(CDC),按约 64KB 块做字节级去重,改一个 Parquet 文件的一行只需上传变更块,而 LFS 需重传整个文件。2 月 20 日当天共迁移 4.5 TB 仓库数据,迁移后 CAS 的下载量一度达到返回给客户端的四倍。

3月12日周三
  1. Hugging Face Blog68

    Open R1 发布 CodeForces-CoTs 数据集、IOI 基准与 OlympicCoder 代码模型

    Open R1 发布第三期更新,包括从 DeepSeek-R1 蒸馏的近 10 万条 C++ 与 Python 竞赛编程思维链数据集 CodeForces-CoTs、基于 2024 国际信息学奥林匹克(IOI)的新基准,以及微调的 7B 和 32B 模型 OlympicCoder。

    推荐理由:Open R1 公布了从 R1 蒸馏的代码推理数据集、IOI 基准与两个开源模型,可看蒸馏训练的具体做法与教训。

3月11日周二
  1. Hugging Face Blog75

    LeRobot 发布 L2D:全球最大开源自动驾驶数据集

    Yaak 与 Hugging Face 的 LeRobot 团队联合发布 Learning to Drive(L2D),被称为全球最大的开源自动驾驶数据集,包含来自德国 30 个城市、60 辆驾校电动车、历时 3 年采集的 90+ TB 多模态数据,约 5000 小时驾驶记录。

    推荐理由:L2D 开源数据集包含 5000+ 小时德国驾校数据,可用于 LeRobot 端到端自动驾驶模型的训练与闭环测试。

2月13日周四
2月12日周三
2月11日周二
2月10日周一
  1. Hugging Face Blog33

    Hugging Face 发布 Open Arabic LLM Leaderboard 2:阿拉伯语大模型评测榜升级

    Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2,升级阿拉伯语大模型评测榜。首版 OALL 上线不到 7 个月吸引超 46,000 名访客,收到 700 多个模型提交,参数从 1B 到 70B 以上,来自 180 多个机构,其中超 70% 为 chat 和微调模型,11% 为预训练模型,超半数模型小于 7B。

2月4日周二
2月2日周日
1月31日周五
1月28日周二
  1. Hugging Face Blog60

    Hugging Face 发起 Open-R1 项目,复现 DeepSeek-R1 数据与训练流程

    Hugging Face 启动 Open-R1 项目,计划系统性复现 DeepSeek-R1 的数据与训练流程,补上官方未公开的数据集和训练代码。该计划分三步:蒸馏高质量推理数据集复现 R1-Distill 模型,复刻 DeepSeek 用于 R1-Zero 的纯强化学习流程,并打通基础模型到 SFT 再到 RL 的多阶段训练。项目还计划把数据集拓展到代码和医学等领域,并向社区开放代码与讨论。

    推荐理由:DeepSeek-R1 开源权重但未公开数据与训练代码,该项目计划补上蒸馏与纯 RL 复现路径。

1月23日周四
1月9日周四
12月24日周二
12月17日周二
12月16日周一
12月10日周二
12月3日周二
11月26日周二
11月20日周三
11月12日周二
11月4日周一
  1. Hugging Face Blog38

    Argilla 2.4 发布:无需代码,在 Hub 上轻松构建微调与评估数据集

    Argilla 2.4 推出无需代码的数据集构建功能,可直接从 Hugging Face Hub 导入数据集,通过 UI 定义问题并收集人工反馈。该功能支持从 Hub 上 230k 数据集中导入公开数据集,用于微调、评估和众包标注,部署在 Spaces 上默认启用 Hugging Face OAuth,便于社区协作。这是 Argilla 加入 Hugging Face 以来最具影响力的功能更新。

10月24日周四
10月23日周三
  1. Hugging Face Blog28

    CinePile 2.0:用对抗式精炼打造更强的数据集

    Hugging Face 发布 CinePile 2.0 长视频问答数据集,并开源一种名为对抗式精炼的新方法。初版 CinePile 于 2024 年 5 月推出,含约 30 万训练样本和 5000 测试样本,人类在该基准上比最强商业视觉模型高出 25%、比开源模型高出 65%;2.0 版本由 HF Mirror 参与,针对退化问题和视觉依赖等缺陷做改进,该方法可直接用于强化现有数据集。

10月16日周三
10月9日周三
10月5日周六
  1. Hugging Face Blog27

    HF Mirror 如何改进 Parquet 文件去重

    Hugging Face 的 Xet 团队针对 Hub 上超 2.2PB 的 Parquet 文件测试去重效果:追加 10,000 行可去重 99.1%,仅需额外 20MB 存储;而修改第 10000 行仅去重 89%,需额外 230MB。团队提出用相对偏移替代绝对偏移、按行组做内容定义分块两项改进思路,并与 Apache Arrow 探讨落地可能。

10月4日周五
  1. Hugging Face Blog34

    Hugging Face 推出 Open FinLLM Leaderboard,专注金融大模型评测

    Hugging Face 发布 Open FinLLM Leaderboard,一个面向金融领域的专用大模型评测榜单,覆盖信息抽取、文本分析、问答、文本生成、风险管理、预测和决策七大类任务,采用零样本评估且无需微调。评测指标包括 Accuracy、F1 Score、ROUGE Score 和 MCC,任务数据集来自 FinQA、TATQA、ECTSum、EDTSum 等真实金融场景。

10月1日周二
  1. Hugging Face Blog21

    Hugging Face 发布 BenCzechMark:首个捷克语 LLM 综合评测基准

    Hugging Face 发布 BenCzechMark,称其为首个也是最全面的捷克语 LLM 评测套件,含 50 项任务、9 个类别,90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型,覆盖阅读理解、事实知识、语言建模、数学推理等维度,评测指标包括 Acc、EM、AUROC 和词级困惑度。

9月30日周一
9月23日周一
9月18日周三
9月17日周二
  1. Hugging Face Blog44

    Hugging Face Datasets 上线 SQL Console

    Hugging Face 为 Hub 上的 Datasets 推出 SQL Console,可在数据集页面一键打开,用 DuckDB WASM 在浏览器内本地执行查询,无需后端依赖。支持完整 DuckDB SQL 语法与正则、列表、JSON、嵌入向量等内置函数,结果可导出为 parquet,公开数据集查询结果还能通过链接分享。内存上限约 3GB,暂不支持 hf:// 协议。

9月13日周五
8月27日周二
  1. Hugging Face Blog36

    Hugging Face LeRobot 用视频编码压缩机器人数据集

    Hugging Face 的 LeRobot 提出 LeRobotDataset 格式,用视频编码替代逐帧 PNG 存储机器人视觉数据,数据集平均缩小到原体积的 14%,最好情况下仅 0.2%,同时保持完整训练能力。解码单帧耗时与 PNG 相当,连续多帧解码仅为 PNG 读取耗时的 25%-50%。该格式轻量、易分享并原生集成 Hugging Face Hub,还配套了可视化工具。

8月21日周三