跳到正文

#开源生态

今日 2 条
7月15日周二
7月10日周四
7月9日周三
  1. Hugging Face Blog37

    Hugging Face 与 AMD 为 MI300X 打造自定义内核,加速 Llama 3.1 405B FP8 推理

    Hugging Face 与 AMD 合作,为 MI300X 编写开源优化内核,提升 Llama 3.1 405B 在 FP8 下用 VLLM 的推理性能。三个自定义内核——融合残差连接、RMS norm 与 FP8 转换,融合 SwiGLU 激活与 FP8 转换,以及 Skinny GEMM——带来显著加速,测量基于输入 1、输出 128 的解码场景。

7月8日周二
6月23日周一
6月19日周四
6月16日周一
6月12日周四
6月6日周五
6月4日周三
  1. Hugging Face Blog22

    nanoVLM 从零实现 KV Cache,生成提速 38%

    Hugging Face 的 nanoVLM 仓库从零实现了 KV Caching,使生成速度提升 38%。nanoVLM 是一个用纯 PyTorch 训练自定义视觉语言模型的精简代码库,KV Cache 在 Attention 块、语言模型层和生成循环三处启用,把逐步生成从全序列重算改为增量更新。文中的经验适用于所有自回归语言模型生成。

6月3日周二
  1. Hugging Face Blog62

    H Company 发布 GUI 自动化 VLM 系列 Holo1 与 WebClick 基准

    H Company 发布 Holo1 系列 Action VLM,包括 Holo1-3B 和 Holo1-7B,基于 Qwen2.5-VL 架构并兼容 transformers,同时在 Hugging Face 开源包含 1,639 个类人 UI 任务的 WebClick 多模态定位基准。

    推荐理由:Holo1 开源了 3B 和 7B 两档 GUI 定位模型,并给出真实网页任务的成本与准确率数据,便于判断小模型的落地边界。

  2. Hugging Face Blog61

    Hugging Face 发布 SmolVLA:450M 开源视觉语言动作模型,基于 LeRobot 社区数据训练

    Hugging Face 发布 SmolVLA,一个 450M 参数、可在消费级硬件运行的开源视觉语言动作(VLA)模型,仅用 lerobot 标签下社区共享的开源数据集预训练,包含 487 个数据集约 1000 万帧。

    推荐理由:450M 参数的开源 VLA 只用社区数据就超过更大模型,并给出可复现的训练与部署路径。

5月23日周五
5月21日周三
5月19日周一
5月15日周四
5月14日周三
5月13日周二
5月12日周一
5月11日周日
  1. Hugging Face Blog33

    LeRobot 社区数据集:机器人领域的“ImageNet”何时到来、如何实现?

    Hugging Face 的 LeRobot 正推动机器人数据采集平民化,通过简化录制流程、打通上传至 HF Hub、降低硬件成本,让社区贡献数据集快速增长,目前以 So100 和 Koch 机械臂数据为主。团队将泛化视为数据问题,主张用开放多样的“机器人 ImageNet”替代学术实验室里结构单一的数据。

4月30日周三
  1. Hugging Face Blog51

    如何用 Gradio 构建 MCP Server

    Gradio 发布教程,演示如何用几行 Python 把任意 Gradio 应用启动为 MCP server,让 LLM 以工具形式调用。只需在 demo.launch() 中设置 mcp_server=True,即可同时启动 Web 界面与 MCP server,并生成可粘贴到 Claude Desktop、Cursor、Cline 等 MCP Client 的配置。

4月29日周二
4月26日周六
4月25日周五
4月16日周三
4月14日周一
  1. Hugging Face Blog54

    Hugging Face 收购 Pollen Robotics,开始售卖开源人形机器人 Reachy 2

    Hugging Face 宣布收购已成立 9 年的开源机器人公司 Pollen Robotics,这是其继 Gradio、XetHub 之后的第五次收购。公司同时开始售卖首款机器人 Reachy 2,这款开源且兼容 VR 的人形机器人面向研究、教育与具身 AI 实验,售价 7 万美元,可通过邮件订购,已在康奈尔、卡内基梅隆等实验室使用。

4月9日周三
4月8日周二
4月5日周六
  1. Hugging Face Blog87

    Llama 4 Maverick 与 Scout 上线 Hugging Face,两款 MoE 多模态模型开放权重

    Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。

    推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。

4月4日周五
3月31日周一
3月28日周五