Hugging Face 发布 SmolVLM:2B 参数的开源视觉语言模型
Hugging Face 发布 SmolVLM,一个 2B 参数、面向低内存占用的开源视觉语言模型,模型权重、数据集、训练配方和工具均以 Apache 2.0 许可开放。
Hugging Face 发布 SmolVLM,一个 2B 参数、面向低内存占用的开源视觉语言模型,模型权重、数据集、训练配方和工具均以 Apache 2.0 许可开放。
Cohere 研究实验室 Cohere For AI 发布 Aya Expanse 系列多语言模型,包含 8B 和 32B 两个参数规模,并以开放权重形式发布。
推荐理由:原文给出 Aya Expanse 8B/32B 的对比胜率与技术管线细节,可了解多语言训练中数据套利与模型合并的具体做法。
Meta 发布 Llama 3.2,共 10 个开放权重模型,包含 5 个多模态模型和 5 个纯文本模型。Llama 3.2 Vision 提供 11B 和 90B 两个规模,均有 base 与指令微调版本,视觉模型上下文长度为 128k tokens;文本模型新增 1B 和 3B 两种规格,面向端侧场景,训练使用最多 9 万亿 tokens。
推荐理由:文章给出 10 个开放权重模型与端侧量化运行路径,便于评估多模态开源方案的落地条件。
阿布扎比技术创新研究院(TII)发布 Falcon Mamba 7B,采用纯 Mamba 架构并加入额外 RMS 归一化层,以 5500GT 数据训练,权重以 TII Falcon Mamba 7B License 1.0 开源。
Google 在 Gemma 2 发布一个月后扩充 Gemma 模型系列,新增 2.6B 参数的 Gemma 2 2B、用于输入输出过滤的安全分类器 ShieldGemma,以及覆盖 Gemma 2 2B 和 9B 每一层的稀疏自编码器套件 Gemma Scope。
Hugging Face 上线 Meta Llama 3.1 系列,包含 8B、70B、405B 三个尺寸的基础与指令微调共六个模型,另发布 Llama Guard 3 和 Prompt Guard。
推荐理由:官方梳理了 Llama 3.1 三个尺寸的显存需求、量化方案和微调入口,便于据此评估部署成本。
Hugging Face 发布 SmolLM 系列小语言模型,包含 135M、360M、1.7B 三种参数规模,并开源训练语料 SmolLM-Corpus。该语料由 Mixtral 生成的 Cosmopedia v2(28B tokens)、Python-Edu(4B tokens)和去重后的 FineWeb-Edu(220B tokens)组成。
推荐理由:SmolLM 把数据配比、训练细节和评测结果一并公开,可供读者判断小模型在端侧可用的边界。
Google 发布 Gemma 2 系列开源大语言模型,包含 9B 和 27B 两个尺寸的基础版与指令微调版,共 4 个开放权重模型,上下文长度 8K token。
推荐理由:详细拆解 Gemma 2 的滑动窗口注意力、软上限与蒸馏等改动,可作为理解这代开源模型训练思路的参考。
Stability AI 发布 Stable Diffusion 3 Medium,参数量 2B,现已在 Hugging Face Hub 上线并可配合 🧨 Diffusers 使用。
推荐理由:SD3 Medium 在 Diffusers 中集成的完整说明,含内存优化与 LoRA 微调脚本,适合评估其部署可行性。
TII 发布 Falcon 2 系列模型,包括 11B 基础 LLM 和 11B 视觉语言模型(VLM),后者在 LLM 之上接入预训练 CLIP ViT-L/14 视觉编码器并支持图像问答。
推荐理由:官方给出 11B LLM 与 VLM 的训练细节和基准对比,可据此判断小尺寸开源多模态模型的性能位置。
Google 发布视觉语言模型系列 PaliGemma,由 SigLIP-So400m 图像编码器和 Gemma-2B 文本解码器组成,可输入图像和文本并输出文本。
推荐理由:梳理了 PaliGemma 的架构、三种权重类型与分辨率选择建议,方便判断是否适合自身微调任务。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个用完全可许可且透明的管线自对齐训练的代码大语言模型。它用 StarCoder2-15B 自行生成数千条指令-响应对再微调自身,不使用人工标注或大型闭源模型的蒸馏数据,在 HumanEval 上取得 72.6 分,超过 CodeLlama-70B-Instruct 的 72.0 分。
推荐理由:原文公开了完全透明的自对齐数据管线,读者可据此了解不依赖 GPT-4 蒸馏也能训练代码指令模型。
Meta 发布 Llama 3,包含 8B 和 70B 两种参数规模,各有 base 与 instruct 微调版本,并同步推出基于 Llama 3 8B 微调的安全模型 Llama Guard 2,共 5 个开放权重模型上线 Hugging Face。
推荐理由:梳理 Llama 3 四款模型的规格、tokenizer 变化与 Hugging Face 生态集成方式,便于评估其部署与微调成本。
Hugging Face 发布 Idefics2,一个 8B 参数、Apache 2.0 开源许可的多模态模型,可接收任意文本与图像序列并生成文本回复。它在视觉问答基准上表现处于同等规模领先水平,可与 LLaVa-NeXT-34B、MM1-30B-chat 等更大模型竞争,并已集成进 Transformers。
推荐理由:8B 开源多模态模型在视觉问答基准上对标更大模型,并附指令微调数据集,可据此判断社区多模态微调的起点。
Google 发布开源代码模型系列 CodeGemma,基于预训练的 2B 和 7B Gemma checkpoint 进一步用 5000 亿 token 的英文、数学和代码数据训练,包含专注代码填充的 2B 基础模型、混合代码与自然语言的 7B 基础模型和面向对话的 7B Instruct 三个版本,上下文长度均为 8K。
推荐理由:原文给出三个规格的 CodeGemma 及其在 HumanEval 等基准上的对比数据和 FIM 提示词格式,便于评估其在代码补全场景的定位。
BigCode 发布透明训练的开放代码大模型 StarCoder2,含 3B、7B、15B 三个参数版本,分别由 ServiceNow、Hugging Face 和 NVIDIA 训练。
推荐理由:BigCode 同时放出 3B/7B/15B 三档代码模型与 67.5TB 数据集,可据此判断开源代码模型的当前水位。
Google 发布开源 LLM 家族 Gemma,包含 2B 和 7B 两个尺寸,各有基础版与指令微调版共 4 个模型,基于 Gemini 打造,上下文长度 8K tokens,可在消费级 GPU、TPU 甚至 CPU 与端侧设备上运行。
推荐理由:Google 开源 Gemma 2B 与 7B 双尺寸模型,本文给出 8K 上下文、消费级硬件运行及与 Transformers 生态的完整集成路径。
IBM Research 与 Hugging Face 团队合作,将基于 MLP-Mixer 架构的轻量级时间序列模型 PatchTSMixer 发布到 Transformers 库中,支持多变量预测、分类和回归,并可预训练后迁移到下游任务。
Hugging Face 发布 aMUSEd,一个非扩散的文生图模型,是 Google MUSE 的开源复现版,采用 Masked Image Model 方法,推理步数更少,模型约 800M 参数。它已集成进 diffusers,发布了研究预览版并采用 OpenRAIL 许可,官方称生成质量并非最佳,同时提供训练和微调代码。
Mistral 发布 Mixtral 8x7B,采用 MoE 架构,含 base 与 Instruct 版本,支持 32k token 上下文,HumanEval 得分 40.2%,在多数基准上追平或超过 GPT-3.5,并以 Apache 2.0 许可开放。
推荐理由:Mistral 开源 MoE 模型登顶开放权重榜,文中量化数据可帮助读者判断本地部署门槛。
Würstchen 是 Hugging Face 推出的文本条件扩散模型,在高度压缩的潜空间中工作,实现 42x 空间压缩,远高于常见的 4x-8x。
推荐理由:原文给出 42x 空间压缩与训练算力对比,读者可据此判断低成本图像生成模型的效率边界。
TII 发布 1800 亿参数的 Falcon 180B,并在 Hugging Face 上线 base 与 chat 版本,训练使用 3.5 万亿 token,共约 7,000,000 GPU 小时。
推荐理由:TII 的 Falcon 180B 登陆 Hugging Face,原文给出与 Llama 2、PaLM-2 的评测对比和显存、量化配置门槛。
Meta 发布 Code Llama,这是基于 Llama 2 初始化、在 5000 亿 token 代码数据上训练的开源代码模型系列,提供 7B、13B、34B 三个参数版本,另有 Python 专用版(额外 1000 亿 token)和指令微调版,采用与 Llama 2 相同的许可协议并允许商用。
推荐理由:梳理 Code Llama 三个参数版本、Python 与 Instruct 变体的训练构成及生态集成方式,方便对照选型。
Hugging Face 发布 IDEFICS,一个基于公开数据和模型构建的开源视觉语言模型,可复现 DeepMind 未公开的 Flamingo。该模型接受任意图像与文本序列输入并输出文本,提供 base 和 instructed 两种变体,各有 9B 和 80B 参数规模。
推荐理由:Hugging Face 公开了 Flamingo 的开源复现细节,读者可了解其数据构成与双版本参数规模。
Segmind 开源了压缩扩散模型 SD-Small 和 SD-Tiny 的权重与知识蒸馏训练代码,两者参数量分别比基础模型减少 35% 和 55%,图像保真度接近原模型。模型以 Realistic-Vision 4.0 为教师模型,在 LAION Art Aesthetic 数据集上训练,推理速度最高快 100%。权重和代码均已发布在 Hugging Face。
Meta 发布开源大语言模型家族 Llama 2,包含 7B、13B、70B 参数规模,以宽松社区许可开放并允许商用,代码、预训练模型和微调模型同日放出。
推荐理由:文章给出了 Llama 2 的模型规格、商用许可和完整部署与微调路径,便于读者评估落地成本。
BigCode(Hugging Face 与 ServiceNow 联合)发布 StarCoder 和 StarCoderBase 代码大模型,基于 GitHub 宽松许可数据训练,覆盖 80+ 编程语言,约 15B 参数、训练 1 万亿 token。
推荐理由:StarCoder 是 BigCode 推出的开源代码大模型,约 15B 参数、上下文 8k,在 HumanEval 上以 40.8% 超过 CodeGen-16B-Mono 和 OpenAI code-cushman-001,并公开权重与数据集。
Kakao Brain 与 Hugging Face 发布开源图文数据集 COYO(7 亿对)以及基于该数据集训练的 ViT 和 ALIGN 两个视觉语言模型,这是 ALIGN 首次免费开源,也是 ViT、ALIGN 首次附带公开训练数据发布。
推荐理由:首个开源 ALIGN 模型连同 700M 训练数据集一并放出,读者可据此判断复现视觉语言建模的可行性。
rinna 发布 Japanese Stable Diffusion,通过在约 1 亿张日语标注图像上微调 Stable Diffusion,实现了对日语提示词的直接支持,可生成日式风格图像并理解「salary man」等日语特有词汇和拟声词。
Hugging Face 发布 BLOOM,一个 176B 参数的多语言大语言模型,支持 46 种自然语言和 13 种编程语言,论文称其为首个完全透明训练的多语言 LLM。
推荐理由:BLOOM 以 176B 参数覆盖 46 种自然语言,并公开训练中间检查点与优化器状态,可供研究者比较开放与封闭模型。