Together AI 支持直接微调 Hugging Face Hub 上的任意 LLM
Together AI 与 Hugging Face 联合推出新能力,可在 Together AI 基础设施上微调 Hugging Face Hub 上任何兼容的 LLM,并通过加入 hf_api_token 支持私有仓库,训练后指定 hf_output_repo_name 即可把模型回传 Hub。
Together AI 与 Hugging Face 联合推出新能力,可在 Together AI 基础设施上微调 Hugging Face Hub 上任何兼容的 LLM,并通过加入 hf_api_token 支持私有仓库,训练后指定 hf_output_repo_name 即可把模型回传 Hub。
Hugging Face 构建 Jupyter Agent,让模型直接在 Jupyter Notebook 中执行代码完成数据分析任务,并以 Qwen3-4B-Thinking-2507 为基线做微调。通过将脚手架精简到约 200 行代码,DABStep 简单任务准确率从 44.4% 提升至 59.7%。该基准上现有最强模型 Claude 4 Sonnet 在困难任务上准确率不足 20%。
Hugging Face Blog 介绍 mmBERT,一个在 1800 多种语言、3T+ tokens 文本上训练的大规模多语言编码器模型。它基于 ModernBERT 架构,采用 60→110→1833 语言的三阶段训练和从 30% 降到 5% 的动态掩码策略,首次在 XLM-R 基础上取得全面提升,推理吞吐量提升 2-4 倍并支持 8192 tokens。
推荐理由:mmBERT 把 ModernBERT 扩展到 1800 多种语言,并给出三阶段训练和低资源语言学习的可迁移方法。
Sebastian Raschka 发布教程,用纯 PyTorch 从零实现 Qwen3 的 Dense 与 Mixture-of-Experts 架构。
Google 发布 EmbeddingGemma,一个面向端侧场景的多语言嵌入模型,308M 参数、2K 上下文窗口,支持 100 多种语言。该模型基于 Gemma3 骨干并改为双向注意力,量化后内存占用低于 200 MB,作者称其在 500M 参数以下的纯文本多语言嵌入模型中 MTEB 排名最高。
推荐理由:读者可以据此了解 308M 参数多语言嵌入模型在 MTEB 上的位置以及端侧 RAG 的落地路径。
SandboxAQ 开源 Structurally Augmented IC50 Repository(SAIR),包含超 500 万个 AI 生成的高精度蛋白质-配体 3D 结构,每个结构都配有来自 ChEMBL 或 BindingDB 的实验测定 IC₅₀ 数据,以 CC BY 4.0 许可免费开放。
Hugging Face 介绍在 ZeroGPU Spaces 上用 PyTorch 提前编译(AoT)加速模型推理的方法,Flux、Wan、LTX 等模型可获得 1.3× 至 1.8× 的提速。
推荐理由:Hugging Face 官方给出在 ZeroGPU Spaces 上启用 AoT 编译的完整步骤与避坑细节,并验证了 1.3–1.8 倍的生成加速,对需要优化 GPU demo 的开发者有直接参考价值。
研究证明 word2vec 在现实训练条件下可归结为无权重最小二乘矩阵分解,梯度流动态存在闭式解,最终学到的表示等价于对矩阵 M* 做 PCA。该矩阵仅由语料共现概率、unigram 概率等可测统计量和超参数决定,其顶部特征向量对应可解释概念:名人传记、政府市政、地理描述等。
NVIDIA 发布 600 万多语言推理数据集 Nemotron Post-Training Dataset V2,将原有英文推理数据翻译为法语、西班牙语、德语、意大利语和日语五种语言,并保留原始英文推理链。
HF Mirror 发文介绍如何把 Claude 连接到 HF Mirror Spaces 来生成图像,并推荐专注自然真实感的 FLUX.1 Krea [dev] 和擅长文字渲染的 Qwen-Image。
Hugging Face 推出 Research Tracker MCP,让 AI 通过自然语言调用研究工具,自动在 arXiv、GitHub 和 Hugging Face 之间检索论文、代码与模型。
Hugging Face 发布 kernel-builder 使用指南,演示如何从零编写一个 CUDA kernel(以 RGB 转灰度为例),将其注册为原生 PyTorch 算子并发布到 Hugging Face Hub。
AI-MO 与 Kimi 开源 kimina-prover-rl 训练流程,基于 DeepSeek-R1 式"先推理后生成"范式,兼容 Verl 框架,并随附 1.7B 与 0.6B 两个模型。
ExecuTorch 0.7 beta 将默认启用 Arm KleidiAI,为基于最新 Arm CPU 架构及大量旧款手机自动带来加速,开发者无需改代码即可通过 ExecuTorch 和 XNNPack 获得优化,实现更快的模型启动、更低延迟和更小内存占用。
Arm 推出 Neural Super Sampling(NSS)供图形与游戏开发者试用,这是一个在移动 GPU 的 Neural Accelerators(NX)上运行的实时时序超采样参数预测模型。
Hugging Face 发布 TextQuests 基准,基于 25 款经典 Infocom 互动小说游戏评测 LLM 的智能体能力,每局最多执行 500 步,分带官方提示与无提示两轮运行,并用游戏进度和 Harm 两项指标打分。
Hugging Face 推出 FilBench,一个覆盖 Tagalog、Filipino 和 Cebuano 三种菲律宾语言的评测套件,含文化知识、经典 NLP、阅读理解、生成四大类共 12 项任务,并基于 Lighteval 构建,已作为社区任务上线官方 Lighteval 仓库。
Sebastian Raschka 通读 gpt-oss-120b 与 gpt-oss-20b 代码和技术报告后,梳理了从 GPT-2 到 gpt-oss 的架构变化,包括移除 Dropout、改用 RoPE、SwiGLU、Mixture-of-Experts、GQA、滑动窗口注意力和 RMSNorm。
Hugging Face Accelerate 联合 Axolotl 集成 ND-Parallel,可在训练脚本中自由组合数据并行、FSDP、张量并行和上下文并行等策略,通过 ParallelismConfig 类配置各项并行度。
Hugging Face 发布开源无代码工具 AI Sheets,可用 AI 模型构建、转换和增强数据集,支持本地部署或在 Hub 上运行。工具以类电子表格界面操作,通过写提示词新建列,可调用 Hub 上的数千个开放模型(含 OpenAI 的 gpt-oss)或本地模型,单次导入上限 1000 行。
推荐理由:原文给出从建表、加列到导出配置的完整链路,读者可据此判断无代码数据集工作流能省下哪些步骤。
Hugging Face 的 TRL 新增 Mixed Preference Optimization(MPO)、GRPO 和其变体 GSPO 三种视觉语言模型对齐方法,并扩展 RLOO、Online DPO 支持 VLM。
OpenAI 发布 GPT-5 办公场景演示,展示该模型如何分析反馈、制定产品计划与原型,并总结后续步骤。
ChatGPT agent 演示了如何自行研究、写代码并在网上执行操作,在几分钟内完成一份商业计划。该 agent 可代用户处理多步骤任务。
OpenAI 发布开源权重模型系列 gpt-oss,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为采用 MXFP4 4-bit 量化的 MoE 模型,使用 Apache 2.0 许可。
推荐理由:Hugging Face 汇总了 gpt-oss 两个开源权重模型的参数、部署路径与生态适配情况,适合了解本地运行条件。
NVIDIA AI-Q Blueprint 在 DeepResearch Bench 的"LLM with Search"榜单上以 40.52 分登顶,成为得分最高的完全开源许可方案。
Hugging Face 推出 3LM(علم),首个专门评估阿拉伯语 LLM 在 STEM 与代码生成能力的多组件基准,包含 865 道真实 STEM 选择题、1744 道合成高难度题,以及译成阿拉伯语的 HumanEval+ 和 MBPP+ 代码任务。
Hugging Face 博客演示了如何用 Gradio 的 MCP 集成在 Python 中搭建 AI 购物助手,只需在 launch() 中设置 mcp_server=True,Gradio 便会把 Python 函数自动转换为带名称、描述和输入 schema 的 MCP 工具,并支持实时进度通知与文件上传。
Hugging Face 发布开源免费的实验追踪 Python 库 Trackio,提供本地 Gradio 仪表盘,并可将仪表盘同步到 Hugging Face Spaces 以 URL 或 iframe 分享。
Hugging Face 把 HF Mirror CLI 从 huggingface-cli 正式更名为 hf,命令按资源重新分组为 hf auth、hf cache、hf repo、hf upload、hf download 等,旧命令仍可用但会提示弃用警告。
Parquet Content-Defined Chunking(CDC)已在 PyArrow 和 Pandas 中可用,可在 HF 的 Xet 存储层上对 Parquet 文件高效去重,只上传或下载变更的数据块。
Hugging Face 博客给出用 Diffusers 和 PEFT 加速 Flux.1-Dev 上 LoRA 推理的优化方案,组合 Flash Attention 3、torch.compile 和 FP8 量化,在 H100 上相对基线提速 2.23 倍。
Hugging Face 开源基准 TimeScope,通过在 1 分钟至 8 小时的长视频中插入 5-10 秒"针"片段,评测视频大模型的定位检索、信息综合与细粒度时序感知三项能力。测试显示,即便 Gemini 2.5-Pro 等领先模型在真正的长视频时序理解上仍显吃力,且视频越长性能下滑越明显。
NVIDIA 推出面向 Hugging Face 的 NIM 推理微服务,可在单个 Docker 容器中部署超过 10 万个 LLM。NIM 会自动识别模型格式与量化类型(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择后端,免去手工配置。
Arc Institute 发起 Virtual Cell Challenge,要求参赛者训练模型预测在部分未见过的细胞类型中沉默某个基因的效果,即"上下文泛化"。
Consilium 是开发者在 Gradio Agents & MCP Hackathon 期间构建的多 LLM 平台,让 AI 模型通过结构化辩论讨论复杂问题并达成共识,支持多数投票和排序选择等决策模式。
Hugging Face 发布 FutureBench,通过让 AI 智能体预测真实未来事件来评测其推理能力,避免传统基准的数据污染问题。该基准用基于 smolagents 的智能体抓取新闻生成预测问题,并接入 Polymarket 预测市场,每周分别产出约 5 个新闻问题和 8 个市场问题,答案可随时间验证。
Gradio 5.38.0 为 Gradio MCP Server 带来五项改进:新增 "File Upload" MCP server 让智能体直接上传本地文件,实时流式推送进度通知,并可用 gr.load_openapi 一行代码将 OpenAPI schema 转为 MCP server。
Hugging Face 推出 Ettin,首个用相同数据(2T tokens)、架构和训练配方训练的 SoTA 配对编码器与解码器模型套件,参数覆盖 17M-1B。
Hugging Face 宣布把 Hub 存储后端从 Git LFS 迁移到 Xet,6 个月内已有 50 万个仓库、20 PB 数据迁入,超过 100 万用户在用。
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B,基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练,在 miniF2F 基准上以 TTRL 搜索框架达到 92.2% 的 SOTA 通过率。