跳到正文
原文
北京智源研究院· 量子位·· 6 天前精选AI 评分70

清华团队新作:代数世界模型让AI像牛顿思考

清华姚期智团队新作:代数世界模型,让AI像牛顿一样思考

AI 摘要

清华姚期智团队开发的代数世界模型(AWM)通过代数方法让AI从观察和实验中理解世界,在ARC-AGI-3游戏集测试中全部通关,平均通关动作数仅为人基准的43%,能判断任务不可能并给出准确原因,其背后的思路是从复杂现象中提炼基本规律

正文 · 中文整理稿

飞书文档 - 图片

飞书文档 - 图片

飞书文档 - 图片

飞书文档 - 图片

清华大学姚期智和袁洋老师领导的科研团队,搞出了一个重磅项目,叫「代数世界模型」(Algebraic World Model, AWM)。 让AI从观察和实验出发,进一步理解世界这件事,变得没那么遥远了。 AI玩游戏,像不像第谷观星? 有个叫ARC-AGI-3的游戏集,特点是啥也不告诉你,没有规则,没有目标,只是单纯的让自己去摸索。 像GPT Astra这种顶流选手,配合Provider Adapter框架,在这里面能拿到99.9%的高分。 它在玩游戏的时候,会自己把游戏机制整理成一堆符号化的规则。

但本质上,这东西就像是第谷的实验记录本。 第谷,开普勒的老师,一个观测狂人,记录了巨量的行星运行数据,精确得吓人。 但真正从这些数据里,发现行星运动三大定律,揭示背后本质规律的,是开普勒。 Astra生成的这些规则,就是第谷的笔记本,不是开普勒的定律。 它只描述了现象,没抓住这个迷你游戏世界运行的本质。 仍然会有「幻觉」只记录现象,会出什么问题呢? 研究人员把其中一个叫sc25的游戏,稍微改了改,初始步数设置成了一个根本不可能通关的数字。 比如第四关,本来起码要19步才能赢,他们就只给你18步。

然后让Astra去玩。 结果,Astra试了8轮,有点沮丧,然后断言:18步肯定不行,我估计至少要22步才能赢。 是的,它不仅没发现正确答案,还给出了一个错得离谱的22步。 这种幻觉在游戏里,最多就是坑你一下。 但如果在现实世界里,让一个AI智能体去执行任务,它告诉你「这事儿没戏」,还给个错误的原因,那后果可能就严重了。 我们真正需要的,是AI在任务不可能时,能清楚地告诉我们「为什么不可能」,并且给出准确的判断,比如「只要条件再增加一点点,就可能了」。 很明显,光靠直觉和试错是不行的。 代数的力量怎么解决?

这时候,就得靠代数的力量了。 也就是前面提到的,清华团队搞的那个代数世界模型(AWM)。 把游戏里的所有对象、关系和规则,抽象成一个「代数世界」。 然后,利用大模型现在已经超强的数学能力,去理解这个世界。 过程大概是三步:探索:先玩几下,把看到的现象写成可执行的Python代码,作为初步的「假设」或「规律」。 凝炼:用新的观察去验证、修正这些假设,然后把它们提炼成更通用的对象和规则。 证明:最后,把这些规律形式化成一种叫Lean 4的语言,变成逻辑严密、机器可以自动检查的数学断言。

说白了,从探索试错走向建模和形式化证明。 效果怎么样呢? 面对刚才那个无解的关卡,基于Opus 5.5模型的AWM,只需要尝试两次,就能直接证明,这关在当前步数下就是无解的,而且只需要再多一步就能获胜。 除了能判断「不可能」,AWM通关的能力也更强。 在整个ARC-AGI-3测试集里,它用Opus 5,183个关卡全部通关,得分99.9%,同时,平均通关的动作数,只有人类基准的43%。 是目前所有已知系统里,效率最高的。 那AWM具体是怎么实现的呢? 大家可能之前听说过代数几何,代数拓扑。

简单来说,代数几何把代数方程与几何形状联系起来,代数拓扑则用代数工具研究空间的连接、孔洞等性质。 通过把形状和空间代数化,可以解决许多单凭观察难以回答的问题。 数学家创造了代数几何和代数拓扑,那是因为几何和拓扑就是他们关注的世界。 而现在,借助AI的力量,AWM可以把这条道路延伸到更多陌生的游戏、交互环境乃至现实任务中:从探索中发现规律,从规律中凝炼结构,再借助数学理解这些结构。 像牛顿一样思考这背后的思路,其实贯穿了整个科学史。

从万有引力、麦克斯韦方程组到相对论,人类最顶尖的智慧,一直在做一件事:从复杂的现象中,提炼出最基本的规律,用数学这个统一的语言来描述世界。 AWM想做的,就是让AI也学会这套方法。 为了实现这个目标,它从一个叫「范畴论」的数学分支里找了灵感。 这玩意儿听着特吓人,号称是「数学的数学」,因为它研究的不是某个具体的数学领域,而是不同数学理论背后的共同结构。

AWM主要用了里面的两个工具,叫「投射极限」和「归纳极限」,本质上就是两种互补的思维方式:下定义(投射极限):把一堆已有的概念和它们的关系拼在一起,共同定义一个新东西。 你可以理解成概念的分解和组合。 找共性(归纳极限):观察一堆不同的东西,找到它们之间的共同点,然后把它们统一到一个更抽象的框架里。 你可以理解成概念的泛化和特化。 通过这两种方式来回倒腾,AWM就能把一开始那些零散、混乱的Python假设,不断迭代,变得越来越简洁、清晰、一致,最终形成一个可以推理和证明的世界模型。

想想牛顿当年,他面对的也不是一道写好了答案的题,而是无数零散的观测数据和现象。 真正伟大的工作,是从这些现象中,找到「力」、「质量」这些少数核心概念,再把它们组织成一个可以推演、可以检验的理论体系。 AWM想教给AI的,就是这种工作方式。 当然,它也有边界。 它的证明,是基于它「观测到的世界」成立的。 如果探索得不够全面,遗漏了某些关键规则,那这个模型描绘的也只是一个「局部真理」,而不是完整的世界。 所以,真正的路径是一个不断循环的过程:观察→假设→实验→抽象→证明→再观察

来源:北京智源研究院 · hub.baai.ac.cn

00