跳到正文

全部动态

今日 73 条
5月11日周日
  1. Hugging Face Blog33

    LeRobot 社区数据集:机器人领域的“ImageNet”何时到来、如何实现?

    Hugging Face 的 LeRobot 正推动机器人数据采集平民化,通过简化录制流程、打通上传至 HF Hub、降低硬件成本,让社区贡献数据集快速增长,目前以 So100 和 Koch 机械臂数据为主。团队将泛化视为数据问题,主张用开放多样的“机器人 ImageNet”替代学术实验室里结构单一的数据。

5月8日周四
5月7日周三
4月30日周三
  1. Hugging Face Blog51

    如何用 Gradio 构建 MCP Server

    Gradio 发布教程,演示如何用几行 Python 把任意 Gradio 应用启动为 MCP server,让 LLM 以工具形式调用。只需在 demo.launch() 中设置 mcp_server=True,即可同时启动 Web 界面与 MCP server,并生成可粘贴到 Claude Desktop、Cursor、Cline 等 MCP Client 的配置。

4月29日周二
4月26日周六
4月25日周五
4月23日周三
  1. Hugging Face Blog31

    TNG 微调 olmOCR-7B-0225-preview,打造忠实还原页眉页脚的 OCR 引擎

    TNG 基于 olmOCR-7B-0225-preview 微调出忠实版 OCR 引擎,解决了原模型为生成训练数据而刻意忽略页眉页脚信息的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8000 份文档数据集,在 8xH100 节点上训练 2.5 个 epoch,发票等文档的页眉页脚关键信息现可完整提取,同时保留简单表格与多栏布局解析能力。

4月16日周三
  1. Hugging Face Blog27

    Hugging Face 解析并发请求下的 LLM Prefill 与 Decode 优化

    LLM 的 token 生成分为可并行处理提示词的 prefill 阶段和只能逐个生成的 decode 阶段,两者分别对应首 token 延迟和单 token 延迟。在 24 张 H100 组成的集群上自托管大模型时,decode 阶段受 GPU 显存带宽限制,可通过批处理多请求提升利用率。低并发下吞吐随并发数近线性增长,GPU 利用率饱和后吞吐不再提升,总吞吐与单请求延迟之间存在权衡。

4月14日周一
  1. Hugging Face Blog54

    Hugging Face 收购 Pollen Robotics,开始售卖开源人形机器人 Reachy 2

    Hugging Face 宣布收购已成立 9 年的开源机器人公司 Pollen Robotics,这是其继 Gradio、XetHub 之后的第五次收购。公司同时开始售卖首款机器人 Reachy 2,这款开源且兼容 VR 的人形机器人面向研究、教育与具身 AI 实验,售价 7 万美元,可通过邮件订购,已在康奈尔、卡内基梅隆等实验室使用。

4月13日周日
4月11日周五
4月9日周三
4月8日周二
  1. OpenAI News40

    ChatGPT 如何用 canvas 写作

    ChatGPT 的 canvas 能把手写笔记、转录文本和草稿整理成润色后的成稿,OpenAI 展示了这一写作流程。该功能面向写作场景,帮助用户从零散素材直接产出完整文稿。

4月5日周六
  1. Hugging Face Blog87

    Llama 4 Maverick 与 Scout 上线 Hugging Face,两款 MoE 多模态模型开放权重

    Meta 发布 Llama 4 Maverick(约 400B 总参数、17B 激活)和 Llama 4 Scout(约 109B 总参数、17B 激活)两款原生多模态 MoE 模型,权重已上线 Hugging Face 的 meta-llama 组织,含 base 与 instruct 版本,需先接受 Llama 4 社区许可协议。

    推荐理由:Meta 同日发布 Llama 4 Maverick 与 Scout 两款 MoE 多模态模型,并给出架构细节与 Hugging Face 侧集成方式。

4月4日周五
4月3日周四
4月2日周三
  1. Hugging Face Blog30

    如何用高效请求排队优化 LLM 推理性能

    TNG Technology Consulting 提出在自建 LLM-Server 中为每个用户和模型设置独立队列,并采用轮询式公平调度替代 FIFO,避免单个"重度用户"占满队列阻塞他人。该方案通过 vLLM 的 /metrics 端点读取后端队列长度指标、动态控制请求下发速率以保持短队列,从而降低新用户延迟。文章还讨论了按请求数、处理时长、KV-cache 命中和优先级分级等公平性扩展方向。

3月31日周一
3月28日周五
3月27日周四
3月26日周三
3月24日周一
3月21日周五
  1. Hugging Face Blog12

    Hugging Face Inference Endpoints 推出全新实时分析面板

    Hugging Face 为 Inference Endpoints 更新分析面板,指标数据改为实时更新,并重构后端以保证高流量端点下数据快速加载。新版本支持自定义时间范围与自动刷新,还新增副本生命周期视图,可追踪每个副本从初始化到终止的每次状态转换。这些更新已上线,官方表示仍在持续迭代并征求反馈。

3月20日周四