跳到正文
原文
北京智源研究院· 量子位·· 1 小时前精选AI 评分70

具身大模型受通用大模型冲击

GPT-6之后,具身大模型画地为牢!明年自研预算估计悬了

AI 摘要

GPT-6 Astra发布后,具身智能行业受到冲击,一些公司开始裁撤算法岗。通用大模型在RoboDojo评测中表现惊人,分数提升显著,展现出上下文学习、分布外泛化和开放词汇操作等能力,对具身模型研发路线造成冲击。

正文 · 中文整理稿

GPT-6 Astra发布才两个月,GPT-6.2 Astra眼瞅着就要来了。 具身智能行业还没从上一轮打击中缓过神来。 还记得GPT-6 Astra刚出来时,一批具身从业者被打懵了。 特别是在一线搞预训练的工程师,更是人人自危。 近期,业内又传出消息,一些具身智能公司开始裁撤算法岗。 过去需要大量数据、算力和算法工程师一点点啃下来的能力,GPT-6 Astra在部分测试中,却不需要针对具体任务进行额外后训练,就能够展现出来。

一位在机器人公司搞模型开发的工程师告诉量子位:比起具身智能迟迟没有出现新的范式级突破,以Astra为代表的通用大模型,正在以coding的方式垂直打击具身行业,这才是真冲击。 冲击带来的压力,不完全来自硅谷。 相比OpenAI等海外大模型公司的技术进展,国内具身公司对本土大模型玩家的下一步动作更敏感。 Kimi、DeepSeek、智谱… … 这些名字正在成为具身行业不得不关注的变量。

在最近火热的RoboDojo评测中,越来越多团队也开始尝试将通用大模型(如GPT-6 Astra)引入自己的机器人系统,泛化很强,能力惊人。 据RoboTwin/RoboDojo评测基准第一作者陈天行透露,一些原本坚持训练原生具身基础模型的团队,如今也开始提交结合Robot-Use-Agent(RUA)等技术的方案,借助通用大模型完成机器人任务。 效果相当直接。 原先只有20分、30分的模型,在结合Astra相关方案后,评测成绩能够提升至50分、60分。

榜单分数涨上去了,具身公司满脑子却只有一个声音:还有必要自研模型吗… … (cry)作为香港大学MMLab具身智能方向的博士生,陈天行参与了RoboDojo针对GPT-6 Astra的评测及评估报告(以下简称“报告”)撰写。 回忆起9月中旬的一天,陈天行告诉量子位,当伙伴们陆续把测试结果拿来,他愣了好几秒:你能看到它对3D重建、对数学等各个领域的冲击都是空前的。 吓人,真挺吓人的。 都被GPT-6打懵了。 “具身自研模型还在80分上不断加0.1、加0.2,GPT-6 Astra已经一次性从80分跳到了90分。

”这是陈天行复盘这次评测时,给出的一个形象比喻。 更扎心的是,在部分测试中,Astra甚至没有针对具体任务进行额外后训练,也没有使用任务示范,仅凭语言指令,就能完成不少机器人操作任务。 最让他意外的,还是Astra一下子展现出了三项具身模型过去需要重点攻克的能力。 第一项是ICL(In-Context Learning,上下文学习)。 简单来说,就是让机器人通过少量上下文信息,快速学会一个新任务。 比如,人类拍一段自己操作的视频,再配上文字说明,机器人就能理解人是怎么做的,并尝试让机械臂复现。

今年7月,ICL还是具身圈一个相当热门的研究方向。 常见的范式是展示人类操作,让机器人模仿以习得新技能——即所谓的单次情境学习。 但社区发现,给Astra提供图像或文字示范,成功率可以高于不提供示范。 更让人意外的是它的在线适应能力。 研究人员故意改变摄像头画面和动作坐标系,Astra能够根据实际执行结果,在几轮尝试后调整策略,顺利完成任务。 也就是说,它不光能理解上下文,还能边做边修正。 在陈天行看来,因为通用模型本身就有很强的上下文理解能力。

平时聊天时,它能记住之前的对话历史,给它一段视频,它也能理解视频内容和文字之间的关系。 把这些能力迁移到机器人操作上,原本需要专门研究的ICL问题,突然就有了现成的解法。 第二项是OOD(Out-of-Distribution,分布外泛化)和Correction(纠错能力)。 机器人在真实环境里,很容易碰到训练数据之外的情况。 比如,机械臂正准备抓一个杯子,结果杯子突然被碰了一下,位置变了。 一个过度依赖训练数据的模型,可能还会沿着原来的轨迹执行,最后抓了个空。

而Astra能够根据变化后的视觉信息重新调整动作,尝试把物体抓起来。 听起来只是一个很小的动作,背后却是机器人能不能适应真实世界的问题。 毕竟,现实世界可没有人负责把每一个杯子都摆回训练时的位置。 第三项是Open-Vocabulary Manipulation(开放词汇操作)。 这项能力涉及语言与动作之间的对齐。 比如,用户换不同的说法提出操作要求,机器人依然能够听懂并执行。 过去,语言理解和动作执行之间往往存在断层,具身模型需要针对具体任务进行后训练,才能更好地完成对齐。

但Astra在这方面展现出了更强的能力。 在部分测试中,即使没有针对具体任务额外后训练和示范,它也能仅凭语言指令完成不少机器人操作。 在陈天行看来,以上三项曾是具身领域极具分量的技术命题,过去都属于可以单独拿出来讲创业故事的。 如今,Astra一次性把这三道题都做了,对原有具身模型研发路线是一场近乎爆裂的冲击。 报告 中,RoboDojo团队提示,Astra的真机测试曾因安全问题中止。 仿真榜单上的高分,还不能直接等同于真实世界中的生产力。 但它已经足以让具身公司重新审视过去的研发投入。

为什么一个原本不是为机器人操作而生的通用大模型,能快速逼近具身公司多年积累的能力? 说起来有点无心插柳。 虽然通用大模型不是从零开始学机器人,但它是带着在大规模预训练中,攒下的语言、视觉、推理和Coding等一系列能力进入的机器人领域。 这些能力原本各有各的用处,没想到放到机器人身上,竟也能直接派上用场。 反观具身公司,很多团队从零开始训练机器人大脑,手里的数据主要来自机器人操作本身。 模型要理解环境、听懂指令、学会动作,很多能力都得从有限的数据里一点点磨出来。

一个是带着一身通用本事来做机器人,一个还在为每一项能力单独投入数据、算力和人力。 这场较量,本身起跑线就不一样。 自研模型还有必要吗? GPT-6 Astra确实很强,但它还没强到让具身公司可以直接缴械投降。 至少在真实物理世界里,还有不少硬骨头等着啃。 破壳机器人创始人许华哲把具身智能的能力拆成了语义、空间和物理泛化三个层次。 他认为,Astra在前两项上表现突出,但到了复杂物理接触、受力变化、物体形变和高精度操作,仍然面临挑战。

比如,让机器人知道一个杯子在哪里、应该伸手去拿,和让它稳稳抓住一个杯子,完全是两回事。 杯子是软是硬? 抓取时该用多大的力? 物体被挤压、碰撞后会发生什么变化? 这些问题,光靠看懂画面、理解指令还不够。 报告截图RoboDojo团队在评测中也发现,Astra并非在所有任务上都占优。 几何对齐、语言指令理解是它的强项,但到了连续接触和多步骤物理操作,现有VLA仍然有不少机会。 自变量创始人王潜的观点是,通用大模型要进入具身,依然必须面对机器人数据、现实世界评测、硬件、仿真和部署等基础设施问题。

这些问题不会因为拥有一个更强的语言模型而自动消失。 问题是,Astra今天做不好的事情,明天会不会突然就做到了? 目前,业内吐槽Astra比较多的,还有推理速度太慢。 陈天行也注意到,GPT-6 Astra云端API推理延迟较高,这对机器人实时闭环控制是现实阻碍。 你想呀,如果机器人每做一个动作,都要等大模型想半天,恐怕很难满足真实场景的要求。 但陈天行认为,该问题并非根本性壁垒,现有LLM端侧部署方案已经较多,包括模型量化、蒸馏、端侧推理引擎等技术。

只要大模型公司将机器人视为重要商业场景,就可以利用现有技术栈完成延迟优化。 这个问题出现的背后,是一个极易弄混的概念:“模型推理频率” 和 “机器人控制频率”,不是一回事。 一位不愿具名的具身模型工程师告诉量子位:推理慢仍然可以控制快,牺牲的只是反应速度。 对于比较吃节拍类型的流水线任务来说,反而无关紧要。 比如快递分拣,机器人需要连续、稳定地抓取和投放。 高层模型负责理解任务、规划动作,底层控制系统则以更高频率执行控制指令。 只要任务允许提前规划,或者对反应延迟有一定容忍度,大模型未必需要参与每一个底层控制周期。

当然,遇到高速动态变化、复杂接触等任务,反应速度依然重要。 但至少,推理慢未必意味着机器人的控制不快。 今天通用大模型所暴露出来的各类短板,不能直接当作具身公司未来赖以生存的护城河。 对具身公司来说,这句实话,多少有些扎心。 但事实摆在那里。 今年,OpenAI已经开始大量招机器人相关岗位。 倘若未来通用模型吸收更多机器人操作数据,原本属于专用具身模型的能力边界,还可能继续被压缩。 具身公司还有机会吗? 自研模型还有必要吗?

陈天行的判断是,具身公司的机会,不在于比谁的模型更聪明,而在于比谁能创造更好的“经济效益”。 这笔帐很容易算。 在一条高度标准化的工业流水线上,机器人每天重复同样的动作,客户最关心的是成功率、节拍、稳定性和成本。 如果花几毛钱调用一个模型就能稳定完成任务,为什么非要花几块钱调用GPT-6 Astra? 即使需要一定的智能和泛化能力,一个经过专门优化的小模型,也可能比直接调用Astra更经济。 当然,如果换成家庭服务机器人,情况就不同了。 今天收拾桌子,明天寻找物品,后天又来了一个从未见过的新任务。

在这样的开放环境里,任务变化越多,对理解、规划和泛化能力的要求就越高。 更强的通用模型,可能反而更有优势。 11月6日,陈天行在个人博客上,用两条轴线解释了其中的区别。 左侧是“场景需求”,右侧是“模型”。

来源:北京智源研究院 · hub.baai.ac.cn

00