混合推理智能体：在潜在空间思考、通过文本行动
Hybrid Reasoning Agents: LLM agents that think in latent space, act through text
混合推理智能体（HybridAgents）通过在潜在推理和基于文本的交互之间动态导航，解决了LLM智能体超越人类语言思考但需通过文本交互的难题，其架构包含HybridLink和持续工作记忆
计算机科学 > 计算与语言
标题：混合推理智能体
作者：Jiaru Zou, Yunzhe Qi, Sirui Chen, Federico Bianchi, Shang Zhu, Pan Lu, Jingrui He, James Zou
摘要：我们如何构建一个能够超越人类语言思考，但仍通过外部环境进行行动的智能体？现代大型语言模型智能体仍然通过文本进行推理和交互，而潜在推理提供了一种高效的内部媒介，但缺乏原生工具访问和推理透明度。我们通过混合推理智能体（HybridAgents）将这两个方向结合起来，该智能体在整个统一生成过程中动态地在潜在推理和基于文本的交互之间导航。在架构上，轻量级的 HybridLink 实现了文本和潜在模式之间的无缝转换，而智能体的持续工作记忆则在多轮对话中保留了无损的混合上下文。这些设计保留了集成工具的智能体能力，同时使潜在思维直接可检查。基于此架构，我们进一步开发了专门用于混合推理的术后训练算法：HybridSFT 通过教会主干与 HybridLink 协调来稳定集成工具的混合生成，然后 HybridRL 通过学习何时在潜在空间中思考、何时通过文本行动来扩展推理。我们在 11 个涵盖数学、科学、医学、搜索和智能体推理的基准测试中，在 3 个模型规模上评估了 HybridAgent。与前沿大型语言模型智能体和涵盖基于文本及潜在方法的智能体框架相比，HybridAgent 一致性地提高了 10.4% 的性能，同时实现了 35.5%-54.7% 的 token 减少，1.8x-2.6x 的更快推理速度，以及 2.7x-3.7x 的成本节约。代码和数据可在该 https URL 获取
计算与语言 (cs.CL) ; 人工智能 (cs.AI); 机器学习 (cs.LG)
来源：Hacker News · arxiv.org