Agent双轨自演进框架TTSE
Agent自演进驶入“双轨时代”!openJiuwen首发TTSE经验学习框架
Agent在持续自我改进过程中面临环境认知不足的难题,openJiuwen提出的TTSE双轨自演进框架通过区分FACT(环境事实)和TIP(条件式技巧)两条轨道,让Agent持续校正对环境的认识并改进执行方法



Agent越用越强,为什么还会被环境“绊倒”? 模型没变,Harness没变,换个环境,为什么就不灵了? 文件位置不同、数据格式混杂、模板约束变化,都可能让原本有效的方法失效。 Agent不仅要从任务中学会“怎么做”,还要判断这些经验在什么环境下仍然有效。 在RSI的持续优化过程中,Agent可以通过任务反馈改进执行方法、积累可复用经验。 但如果环境认知没有同步更新,过去有效的经验也可能成为新的障碍。 一次失败,究竟该改方法,还是该纠正对环境的认识? Agent的新难题,藏着认知科学的老线索。
认知科学对知识结构的研究,为区分这两类问题提供了启发:1983年,认知科学家John R. Anderson在ACT-R相关理论研究中,系统讨论了人类知识中的两类重要形式:陈述性知识(描述“世界是什么样的”)和程序性知识(描述“应该如何行动”)。 将这一视角引入Agent,就能看到:认识环境与掌握做法,彼此关联,却需要不同的验证与更新方式。 沿着这一思路,openJiuwen在RSI方向的持续探索中,进一步提出TTSE(双轨自演进)。
TTSE借鉴认知科学中对陈述性知识与程序性知识的区分,将任务中获得的经验分为两条轨道:FACT(环境事实)和TIP(条件式技巧)。 TTSE双轨框架:构建反馈驱动的经验自演进闭环。 分清经验的类型,只是第一步。 如何让Agent从任务反馈中持续学习,并将有效经验转化为下一轮执行的改进? TTSE将这一思路落实到经验管理层面,通过分批执行任务,让已有经验持续接受新证据的检验,判断哪些经验值得保留、哪些需要修正或退役,再将更新后的经验用于下一轮任务。
框架由双轨知识表示、冷启动、在线增量演进、最终输出与评估四个部分组成。 双轨知识表示:让环境事实与执行方法各有依据。 FACT用于描述环境本身的属性与规律,TIP用于描述特定任务条件下的执行方法。 两类知识分别维护独立编号、呈现方式与证据追踪机制。 冷启动:从首批任务中归纳初始经验。 TTSE从空规则库出发,由Agent执行首批任务,再根据执行轨迹分别归纳FACT与TIP,建立初始双轨经验库。 在线增量演进:在新任务中检验并修正已有经验。 后续任务按批次推进。
每一轮,Agent加载上一轮的FACT与TIP,利用已有经验执行当前批次任务,再根据执行轨迹和评估结果,依次完成归因、退役、矛盾分析与合成、归纳四个环节。 最终输出与评估:检验经验演进带来的实际收益。 经过多轮增量演进,框架输出最终的FACT与TIP经验库,并在测试任务中评估其对准确率或任务表现的影响。 从机制到实证:五大基准,验证TTSE双轨自演进的有效性。
为了验证双轨经验机制是否真正有效,研究团队在ALFWorld、ScienceWorld、GDPevo、SOPBench和PinchBench五个基准上进行了评测。 五大基准,呈现多维度增益。 GDPevo的消融实验提供了更直接的证据:完整双轨方案优于只记录事实或只记录技巧的单轨方案。 原因在于,环境认知与行动策略承担着不同的职责。 只有FACT,智能体可能知道环境的约束,却缺少合适的行动方法; 只有TIP,智能体可能掌握操作技巧,却无法准确识别这些技巧成立的条件。
只有将两者结合,才能同时回答「环境是什么样」和「在当前条件下应该怎么做」。 从跨模型、跨任务到真实世界评测,实验结果不仅验证了TTSE双轨经验机制的有效性,也进一步展示了RSI在经验学习层面的应用潜力:Agent可以在不改变模型参数的情况下,通过持续积累、验证与更新任务经验,逐步改善后续任务表现。



来源:量子位 · qbitai.com