H Company 发布 Holo3.1 计算机操作智能体模型家族
Holo3.1: Fast & Local Computer Use Agents
H Company 发布 Holo3.1 模型家族,共四个尺寸(0.8B、4B、9B、35B-A3B),并首次提供 FP8、Q4 GGUF、NVFP4 量化权重用于本地推理。
原文给出多尺寸模型与量化权重,以及移动端和跨框架的基准变化,可供判断本地 computer-use 智能体的落地成本。
去年三月,我们发布了 Holo3,这是我们最先进的计算机使用模型。它一经推出便迅速被采用。开发者、企业和合作伙伴开始将 Holo3 部署到广泛的工作流中,从浏览器自动化和业务软件到内部工具和桌面应用。随着采用规模不断扩大,我们意识到仅靠性能已经不够了。
用户希望能在桌面和移动环境中运行相同的计算机使用能力,并与不同的智能体框架无缝集成。他们希望部署方式灵活,既可以是云端推理,也可以完全在终端用户设备上本地执行。
因此,我们发布了 Holo3.1 系列。Holo3.1 在三个对生产环境最为关键的维度上提升了稳健性:环境(Web、桌面、移动)、智能体框架和部署目标。我们首次发布了针对本地推理优化的量化检查点,包括 FP8、Q4 GGUF 和 NVFP4。
Holo3.1 是我们迈向通用计算机使用智能体愿景的重要一步:这类系统能够跨环境运行、集成到任何智能体技术栈中,并在工作流所在的任何地方运行。
跨 GUI 环境与智能体框架的计算机使用
Holo3.1 基于 Qwen 系列构建,旨在提升计算机使用智能体实际部署环境中的稳健性,同时保持最先进的性能。
当团队将 Holo3 从评估推进到生产时,我们反复观察到同一个挑战:在一种场景下的出色表现未必能迁移到另一种场景。移动设备、替代性智能体框架以及不同的执行框架都会带来各自的分布偏移来源。
移动自动化
Holo3.1 将 Holo3 的能力从浏览器和桌面控制扩展到更广的范围,在移动环境中取得了显著提升。在 AndroidWorld 上,我们的 35B-A3B 模型从 67% 提升到 79.3%,而更小的 4B 和 9B 变体则从 58% 提升到 72%。
跨框架性能
为了更好地支持在第三方智能体技术栈中部署 Holo 的团队,Holo3.1 在 Holo3 已有的结构化 JSON 输出之外,引入了对函数调用协议的原生支持。
在 OSWorld 以及我们覆盖电商、业务软件和协作工作流的内部基准测试套件中,函数调用和原生执行现在已达到接近持平的性能。在我们的 Holotab 产品框架内评估时,Holo3.1 相比 Holo3 还带来了超过 25% 的提升。
更小尺寸以实现成本与性能的权衡
为了进一步支持本地和设备端推理,我们除了用于实现最先进性能的更大 35B-A3B 模型外,还发布了新的模型尺寸,包括小型模型(0.8B、4B 和 9B),以实现高性价比和私有化部署。
Holo3.1 和 Qwen 3.5 系列的性能与成本对比。总体性能先对四个 H Corporate 基准取平均(使每个系列权重相等),然后对 OSWorld、AndroidWorld、H Corporate、ScreenSpot-Pro 和 OSWorld-G 取均值。
快速且本地推理
这是我们首次发布量化权重。我们从 35B-A3B 检查点开始,提供 FP8、Q4 GGUF 和 NVFP4 版本。
对于 NVFP4,我们使用了 NVIDIA 的 Model Optimizer,采用 W4A16 配置。这些检查点可为 Computer Use Agents 实现快速的本地推理,且模型性能几乎没有下降。FP8 和 NVFP4 取得了相同的 OSWorld 得分,仅比全精度 BF16 检查点低约两分。
加速效果非常显著:在 DGX Spark 上,NVFP4 W4A16 的总 token 吞吐量是 FP8 的 1.41 倍,是 BF16 的 1.74 倍。

面向消费级硬件的本地代理
我们还发布了 Q4 GGUF 检查点,旨在将 Computer Use Agents 部署到消费级硬件上。
代理本身在 Windows 或 Mac 机器上本地运行,而模型既可以在同一台机器上运行——我们提供了 Apple Silicon 的参考数据——也可以在同一网络中的 DGX Spark 上运行。在这两种情况下,执行都完全私密且本地化,没有任何数据离开用户的网络。
在 Spark 上,我们与 NVIDIA 共同开发的代理框架优化,结合上述 NVFP4 量化,相比 FP8 基线实现了约 2 倍的端到端综合加速,将平均步长时间从 6.8 秒缩短至 3.3 秒。
各平台和精度下的代理请求速率。在 DGX Spark 上,采用 NVFP4 的 vLLM 在 Default 和 Fast 模式下均实现了最高的请求速率,其次是 Q4 GGUF 和 FP8。这些改进以及更多优化将体现在即将推出的桌面代理框架中。
可用性
Holo3.1 系列提供四种规模:
| 模型 | 部署目标 |
|---|---|
| Holo3.1-0.8B | 超轻量本地代理 |
| Holo3.1-4B | 高性价比部署 |
| Holo3.1-9B | 性能与延迟均衡 |
| Holo3.1-35B-A3B | 最先进的性能 |
我们还发布了针对本地和边缘部署优化的 FP8、NVFP4 和 Q4 GGUF 检查点。
开始使用
- Holo Models API:https://hcompany.ai/holo-models-api
- Hugging Face:https://huggingface.co/collections/Hcompany/holo31
我们期待看到开发者使用 Holo3.1 构建的作品。
来源:Hugging Face Blog · hf-mirror.com



