跳到正文
原文
Hugging Face Blog·· 2026-06-02精选AI 评分71

H Company 发布 Holo3.1 系列 Computer Use Agent 模型

Holo3.1: Fast & Local Computer Use Agents

AI 摘要

H Company 发布 Holo3.1 系列 Computer Use Agent 模型,基于 Qwen 家族,覆盖 0.8B、4B、9B 和 35B-A3B 四种规模,并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重。

正文 · AI 翻译

去年三月,我们发布了 Holo3,这是我们最先进的计算机使用模型。它一经推出便迅速被采用。开发者、企业和合作伙伴开始将 Holo3 部署到广泛的工作流中,从浏览器自动化和商业软件到内部工具和桌面应用。随着采用范围扩大,我们意识到仅靠性能已不再足够。

用户希望能在桌面和移动环境中运行相同的计算机使用能力,并与不同的智能体框架无缝集成。他们希望部署方式灵活,从云端推理到在终端用户设备上完全本地执行。

因此,我们发布了 Holo3.1 系列。Holo3.1 在三个对生产最为关键的维度上提升了稳健性:环境(网页、桌面、移动)、智能体框架和部署目标。我们首次发布了针对本地推理优化的量化检查点,包括 FP8、Q4 GGUF 和 NVFP4。

Holo3.1 是朝着我们通用计算机使用智能体愿景迈出的重要一步:这些系统能够跨环境运行、集成到任何智能体技术栈中,并在工作流所在的任何地方运行。


跨 GUI 环境和智能体框架的计算机使用

Holo3.1 基于 Qwen 系列,旨在提升计算机使用智能体实际部署环境中的稳健性,同时保持最先进的性能。

随着团队将 Holo3 从评估推向生产,我们反复观察到同一个挑战:在一种设置中的强劲性能不一定能迁移到另一种设置。移动设备、替代智能体框架和不同的执行框架都会引入各自的分布偏移来源。

Capture d’écran 2026-06-01 à 16.30.52

移动自动化

Holo3.1 将 Holo3 的能力扩展到浏览器和桌面控制之外,在移动环境上带来重大提升。在 AndroidWorld 上,我们的 35B-A3B 模型从 67% 提升到 79.3%,而更小的 4B 和 9B 变体从 58% 提升到 72%。

跨框架性能

为了更好地支持在第三方智能体技术栈中部署 Holo 的团队,Holo3.1 在 Holo3 已有的结构化 JSON 输出之外,引入了对函数调用协议的原生支持。

在 OSWorld 以及我们覆盖电商、商业软件和协作工作流的内部基准测试套件中,函数调用和原生执行现在达到了接近同等的性能。在我们的 Holotab 产品框架内评估时,Holo3.1 相比 Holo3 还带来了超过 25% 的提升。

更小尺寸以实现成本与性能的权衡

为了进一步支持本地和设备端推理,我们还发布了新的模型尺寸,包括用于高性价比和私有化部署的小型模型(0.8B、4B 和 9B),以及用于最先进性能的更大 35B-A3B 模型。

Capture d’écran 2026-06-01 à 16.21.18

overall_pareto_light_notitle

Holo3.1 和 Qwen 3.5 系列的性能与成本对比。总体性能先对四个 H Corporate 基准取平均(因此每个系列权重相同),然后对 OSWorld、AndroidWorld、H Corporate、ScreenSpot-Pro 和 OSWorld-G 取均值。


快速且本地推理

这是我们首次发布量化权重。我们从 35B-A3B 检查点开始,提供 FP8、Q4 GGUF 和 NVFP4 版本。

对于 NVFP4,我们使用了 NVIDIA 的 Model Optimizer,采用 W4A16 配置。这些检查点可为 Computer Use Agents 实现快速本地推理,且模型性能几乎无下降。FP8 和 NVFP4 取得了相同的 OSWorld 分数,仅比全精度 BF16 检查点低约两分。

加速效果显著:在 DGX Spark 上,NVFP4 W4A16 的总 token 吞吐量是 FP8 的 1.41 倍,是 BF16 的 1.74 倍。 quality_throughput_pareto_light (1)

面向消费级硬件的本地智能体

我们还发布了 Q4 GGUF 检查点,旨在将 Computer Use Agents 部署到消费级硬件上。

智能体本身在 Windows 或 Mac 机器上本地运行,而模型既可以在同一台机器上运行——我们提供了 Apple Silicon 的参考数据——也可以在同一网络中的 DGX Spark 上运行。在这两种情况下,执行都完全私密且本地化,没有任何数据离开用户的网络。

在 Spark 上,我们与 NVIDIA 共同开发的智能体框架优化,结合上述 NVFP4 量化,相比 FP8 基线实现了约 2 倍的端到端复合加速,将平均步骤时间从 6.8 秒缩短至 3.3 秒。

agent_request_rate_light

各平台和精度下的智能体请求速率。在 DGX Spark 上,采用 NVFP4 的 vLLM 在 Default 和 Fast 模式下均实现了最高请求速率,其次是 Q4 GGUF 和 FP8。这些改进以及更多优化将落地于即将推出的桌面智能体框架中。


可用性

Holo3.1 系列提供四种规模:

模型 部署目标
Holo3.1-0.8B 超轻量本地智能体
Holo3.1-4B 高性价比部署
Holo3.1-9B 性能与延迟均衡
Holo3.1-35B-A3B 最先进的性能

我们还发布了针对本地和边缘部署优化的 FP8、NVFP4 和 Q4 GGUF 检查点。


开始使用

我们期待看到开发者们用 Holo3.1 构建出什么。

来源:Hugging Face Blog · huggingface.co

00