跳到正文

Hugging Face

Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。

最新精选

第 101–120 条 · 共 171 条
10月23日周三
10月22日周二
10月10日周四
9月25日周三
  1. Hugging Face Blog82

    Llama 3.2 发布:支持视觉与端侧运行

    Meta 发布 Llama 3.2,共 10 个开放权重模型,包含 5 个多模态模型和 5 个纯文本模型。Llama 3.2 Vision 提供 11B 和 90B 两个规模,均有 base 与指令微调版本,视觉模型上下文长度为 128k tokens;文本模型新增 1B 和 3B 两种规格,面向端侧场景,训练使用最多 9 万亿 tokens。

    推荐理由:文章给出 10 个开放权重模型与端侧量化运行路径,便于评估多模态开源方案的落地条件。

8月12日周一
  1. Hugging Face Blog62

    Hugging Face 推出跨模型统一工具调用 API

    Hugging Face 在 Transformers 中推出统一的工具调用 API,同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型上使用工具,无需或只需少量模型专属改动。工具以 JSON schema 定义,Python 函数传入后会自动转换为 schema,并配有完整文档和示例。目前模型响应格式仍需手动解析,这部分尚未统一。

    推荐理由:原文给出了统一工具调用 API 的跨模型设计与 Transformers 代码示例,读者可据此判断现有工具调用代码的迁移成本。

7月23日周二
7月22日周一
7月18日周四
7月16日周二
  1. Hugging Face Blog70

    Hugging Face 发布 SmolLM 系列小模型并开源 SmolLM-Corpus

    Hugging Face 发布 SmolLM 系列小语言模型,包含 135M、360M、1.7B 三种参数规模,并开源训练语料 SmolLM-Corpus。该语料由 Mixtral 生成的 Cosmopedia v2(28B tokens)、Python-Edu(4B tokens)和去重后的 FineWeb-Edu(220B tokens)组成。

    推荐理由:SmolLM 把数据配比、训练细节和评测结果一并公开,可供读者判断小模型在端侧可用的边界。

6月27日周四
6月12日周三
5月24日周五
5月14日周二
5月13日周一
  1. Hugging Face Blog70

    Hugging Face 发布 Transformers Agents 2.0

    Hugging Face 发布 Transformers Agents 2.0,在原有 agent 类型外新增可基于历史观测迭代的 agent,并将代码与常用属性设计得清晰、模块化,同时加入 agent 分享功能。

    推荐理由:官方给出新 Agent 框架的模块设计与 GAIA 榜单实测,读者可据此比较不同 LLM 引擎的 agent 表现。

4月29日周一
  1. Hugging Face Blog62

    StarCoder2-15B-Instruct 发布:完全透明可许可的自对齐代码模型

    Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个用完全可许可且透明的管线自对齐训练的代码大语言模型。它用 StarCoder2-15B 自行生成数千条指令-响应对再微调自身,不使用人工标注或大型闭源模型的蒸馏数据,在 HumanEval 上取得 72.6 分,超过 CodeLlama-70B-Instruct 的 72.0 分。

    推荐理由:原文公开了完全透明的自对齐数据管线,读者可据此了解不依赖 GPT-4 蒸馏也能训练代码指令模型。

4月18日周四
  1. Hugging Face Blog78

    Meta 发布 Llama 3 开源大模型,8B 与 70B 双规格上线 Hugging Face

    Meta 发布 Llama 3,包含 8B 和 70B 两种参数规模,各有 base 与 instruct 微调版本,并同步推出基于 Llama 3 8B 微调的安全模型 Llama Guard 2,共 5 个开放权重模型上线 Hugging Face。

    推荐理由:梳理 Llama 3 四款模型的规格、tokenizer 变化与 Hugging Face 生态集成方式,便于评估其部署与微调成本。

4月15日周一
  1. Hugging Face Blog62

    Hugging Face 发布 Idefics2:8B 视觉语言模型,Apache 2.0 开源

    Hugging Face 发布 Idefics2,一个 8B 参数、Apache 2.0 开源许可的多模态模型,可接收任意文本与图像序列并生成文本回复。它在视觉问答基准上表现处于同等规模领先水平,可与 LLaVa-NeXT-34B、MM1-30B-chat 等更大模型竞争,并已集成进 Transformers。

    推荐理由:8B 开源多模态模型在视觉问答基准上对标更大模型,并附指令微调数据集,可据此判断社区多模态微调的起点。

4月9日周二
  1. Hugging Face Blog62

    Google 发布 CodeGemma 代码模型系列

    Google 发布开源代码模型系列 CodeGemma,基于预训练的 2B 和 7B Gemma checkpoint 进一步用 5000 亿 token 的英文、数学和代码数据训练,包含专注代码填充的 2B 基础模型、混合代码与自然语言的 7B 基础模型和面向对话的 7B Instruct 三个版本,上下文长度均为 8K。

    推荐理由:原文给出三个规格的 CodeGemma 及其在 HumanEval 等基准上的对比数据和 FIM 提示词格式,便于评估其在代码补全场景的定位。

3月20日周三
  1. Hugging Face Blog62

    Cosmopedia:如何为 LLM 预训练构建大规模合成数据

    Hugging Face 发布 Cosmopedia,一个由 Mixtral-8x7B-Instruct-v0.1 生成的合成数据集,包含超 3000 万个文件和 250 亿 token,目标是复现 Phi-1.5 的训练数据。

    推荐理由:Hugging Face 公开了复现 Phi 合成预训练数据的完整流程、数据集与 1B 模型,读者可据此理解大规模合成数据的提示词设计与工程细节。