混合推理智能体：在潜在空间思考、通过文本行动
Hybrid Reasoning Agents: LLM agents that think in latent space, act through text
混合推理智能体（HybridAgents）通过在潜在推理和基于文本的交互之间动态导航，解决了LLM智能体超越人类语言思考但需通过文本交互的难题，其架构包含HybridLink和持续工作记忆
如何构建一个超越人类语言思考，但仍通过外部环境进行文本交互的智能体？ 现代LLM智能体仍通过文本进行推理和交互，而潜在推理提供了一种高效的内部媒介，但缺乏原生工具访问和推理透明度。 我们通过混合推理智能体（HybridAgents）弥合了这两个方向，该智能体在整个统一生成过程中动态地在潜在推理和基于文本的交互之间导航。 在架构上，轻量级的HybridLink实现了文本和潜在模式之间的无缝转换，而智能体的持续工作记忆在多轮对话中保留了无损的混合上下文。 这些设计在保留集成工具的智能体能力的同时，使潜在思维可直接检查。
基于此架构，我们进一步开发了专门用于混合推理的post-training算法：HybridSFT通过教导主干与HybridLink协调来稳定集成工具的混合生成，然后HybridRL通过学习何时在潜在空间中思考、何时通过文本行动来扩展推理。 我们在11个涵盖数学、科学、医学、搜索和智能体推理的基准测试中，在3个模型规模上评估了HybridAgent。
与前沿LLM智能体和涵盖基于文本及潜在方法的智能体框架相比，HybridAgent始终将性能提高10.4%，同时实现35.5%-54.7%的token减少、1.8x-2.6x的更快推理速度和2.7x-3.7x的成本节约。 代码和数据可在该https URL获取。 Computation and Language (cs.CL) ; Artificial Intelligence (cs.AI); Machine Learning (cs.LG)
来源：Hacker News · arxiv.org