跳到正文

#数据/训练

今日 1 条
11月21日周五
11月17日周一
  1. Google DeepMind62

    Google DeepMind 发布 WeatherNext 2 天气预报模型

    Google DeepMind 与 Google Research 发布天气预报模型 WeatherNext 2,称其生成预报速度提升 8 倍,分辨率最高可达 1 小时级,可在单个 TPU 上不到一分钟生成一次预测。

    推荐理由:官方公开了生成式天气预报模型的速度、分辨率提升与多个落地入口,可据此判断这类模型进入实际产品的节奏。

11月11日周二
  1. Google DeepMind48

    Google DeepMind 新研究:让 AI 视觉模型更像人一样看世界

    Google DeepMind 在 Nature 发表新论文,提出一种三步对齐方法,用认知科学的"odd-one-out"任务发现视觉模型常依赖背景色、纹理等表层特征,与人类判断系统性错位。团队以 SigLIP-SO400M 为基座训练适配器作为"教师",生成含百万张图像、数百万条类人判断的 AligNet 数据集,再微调其他模型,使其内部表征按人类概念层级重新组织,从而提升鲁棒性与泛化能力。

11月6日周四
11月1日周六
10月30日周四
10月29日周三
  1. Hugging Face Blog38

    Hugging Face 解析全球算力格局变迁:中国芯片开始承载国产开源模型

    Hugging Face 发文分析全球 AI 算力格局的迁移:中国国产芯片已开始承载 Qwen、DeepSeek、GLM、Kimi 等开源权重模型的推理,部分模型开始用国产芯片训练。文章指出,美国出口管制与华为 Ascend、寒武纪等国产芯片产能的加速高度相关,芯片受限也倒逼出 MLA、GRPO 等算力效率创新。

10月27日周一
10月22日周三
10月17日周五
10月16日周四
10月14日周二
9月26日周五
9月22日周一
  1. Hugging Face Blog36

    Hugging Face 推出 SyGra:为 LLM 和 SLM 构建数据的一站式框架

    Hugging Face 推出低代码/无代码框架 SyGra,用于为 LLM 和 SLM 简化数据集的创建、转换与对齐,覆盖 Q&A 生成、DPO 偏好对、推理增强、RAG 长上下文构建及跨语言转换等场景。SyGra 提供 Python 库,支持 vLLM、Hugging Face TGI、Triton、Ollama 等多种推理后端,让用户专注提示词工程而非繁琐的脚本管线。

9月16日周二
9月12日周五
9月10日周三
  1. Hugging Face Blog49

    Hugging Face 用 Jupyter Notebook 训练 LLM 推理:Jupyter Agents 微调 Qwen3-4B

    Hugging Face 构建 Jupyter Agent,让模型直接在 Jupyter Notebook 中执行代码完成数据分析任务,并以 Qwen3-4B-Thinking-2507 为基线做微调。通过将脚手架精简到约 200 行代码,DABStep 简单任务准确率从 44.4% 提升至 59.7%。该基准上现有最强模型 Claude 4 Sonnet 在困难任务上准确率不足 20%。

9月3日周三
9月1日周一
  1. Berkeley AI Research32

    word2vec 到底学到了什么?研究给出闭式学习理论

    研究证明 word2vec 在现实训练条件下可归结为无权重最小二乘矩阵分解,梯度流动态存在闭式解,最终学到的表示等价于对矩阵 M* 做 PCA。该矩阵仅由语料共现概率、unigram 概率等可测统计量和超参数决定,其顶部特征向量对应可解释概念:名人传记、政府市政、地理描述等。

8月21日周四
8月14日周四
8月12日周二
8月1日周五
7月29日周二
7月25日周五
7月18日周五
7月16日周三
7月10日周四
7月8日周二
  1. Hugging Face Blog37

    Hugging Face 详解高效多模态数据管道:从 Padding 浪费到背包问题打包

    Hugging Face 在 nanoVLM 项目中发现,训练中约 60% 的 batch 被无用的 padding token 占据,GPU 大量空转。其博客给出五阶段数据管道方案:从朴素 padding、固定长度裁剪,到用背包问题(knapsack)动态打包序列,并借助 IterableDataset 与生产者-消费者队列实现多模态数据的按需组批,尽量减少填充浪费。

7月4日周五
6月11日周三
6月3日周二
5月25日周日
5月21日周三
5月15日周四
4月26日周六
4月11日周五
4月8日周二
4月3日周四