Astra改写Qwen大脑与RSI关系

11月2日，MIT CSAIL的四位研究者发了一篇博客《权重空间编程的火花》。 其中最抓人的一条是，GPT-6 Astra直接改写了Qwen3.5-0.8B的权重，改动131,072个数字，约占全部参数的0.016%，这个小模型在MATH-500上的成绩从7.9%涨到48.1%，GSM8K从13.8%涨到67.1%，指令遵循测试IFEval从21.0%涨到62.3%。 这也瞬间引爆各方讨论。

博客里还有实验，不给画面、不报游戏名、不让运行，只把一个强化学习网络的权重当作文本交给Astra，它说出这是打砖块，置信度99%。 再给它游戏规则和一个权重全为零的网络，它一次性把参数写出来，这个从没试玩过的网络打砖块得517.4分，训练了一亿步的PPO基线只有15.8分。 读权重、改权重、写权重，AI已经能看懂另一个AI的「脑回路」，还能动手改。 这些线索让人想到一个很热的词：RSI。 各路标题是「爆改Qwen大脑」「给Qwen改脑子」「AI开始动别人的脑子了」，「神经网络的基因编辑」。

作者也在博客的展望里把它列了进去，他在X上的帖子一天之内浏览量就过了五百万。 在兴奋的同时，我们花了点时间把这组实验的公开仓库去翻了一遍。 仓库公开了1,125次模型调用的逐轮日志，Astra每一轮收到的提示词、它的回复、它跑过的每一段代码、主要的评测结果和最终的补丁都在里面。 看完之后，我们有两个不太够炸裂的判断。 第一，7.9%到48.1%可以有一个朴素得多的解释：Qwen原本有一个一直重复、停不下来的bug，Astra把它修好了，分数就上来了；

第二，这组实验里AI展现的全部本事，都是在执行一个由人定得很具体的目标。 它把执行过程自动化了，做得相当漂亮，但看起来种种证据表明，它没有理解目标，更没有读懂另一个模型。 而在研究了一下这个工作以及它带来的各种讨论后，我们觉得它恰恰暴露了今天RSI最大的问题。

「入侵脑回路」
下面我们就来仔细看看这个研究。一个神经网络由几层矩阵组成，矩阵里的每个数字就是一个「权重」。输入进来，逐层乘上这些数字，最后变成输出。模型的全部本事都存在这几万、几亿、几十亿个数字里，训练就是在调这些数字。平时我们和模型打交道只看输入和输出，权重本身没人去读，因为它看上去只是一堆数。这组实验做的，就是让Astra去读这堆数。博客一共八个实验，主角都是GPT-6 Astra，配角是一批网络：四个玩小游戏的强化学习策略网络；三个画几何图形的小扩散模型；三个只有四层的小语言模型；一个小车控制网络；一个148万参数的围棋网络；几对被微调过的Gemma 3 270M；还有，Qwen3.5-0.8B。每个实验的形式一样，把一个网络的权重和结构说明交给Astra，再给它一个任务。

「读」的实验有四组。拿到策略网络的权重，判断它玩的是哪个游戏；拿到扩散模型的权重，说出它会画什么图形；拿到去掉输入层和输出层、只剩中间四层的小语言模型，判断它用哪类语料训练，并找出负责「接着复制前文」的注意力头；拿到两个Gemma，判断哪一个被训练成了顺着用户说话的「谄媚模型」。

「写」的实验两组。给它MinAtar三款小游戏的规则、源码和权重全为零的网络，让它直接写出能玩的参数；再给它一个9路围棋的网络，让它从零写出一个会下棋的。

「改」的实验也是两组。一组是修小车，一个PPO训练出来的控制网络在坡道前卡住，Astra改了3.5%的权重，让它学会先倒车再冲坡。另一组就是Qwen，让它改权重把数学成绩提上去，之后研究者又在Gemma 3 270M上补做了一次。这些设计非常非常有意思。这也是为什么这组东西看起来像RSI的很重要原因。RSI的想象需要三个环节凑齐，AI得能看懂模型内部发生了什么，能据此动手改，改完的模型得更强。上面他设计的读、写、改三类实验，恰好各自对应一个环节。再加上这次被改的是一个语言模型，动手的也是一个语言模型，「模型改模型」的画面感就齐了。沿着这条线往下想，Astra能改Qwen，下一步是不是就能改Astra？作者在博客末尾的展望里自己列了五条用途，递归自我改进也是他列进去其中一条，把一个模型的推理模块嫁接到另一个模型里是另一条。这说明作者团队非常知道这种「想象」引导的重要。但，仔细看实验细节，就会发现，三个环节各做了一点，和把它们串成一个闭环，差得很远。

修bug不是RSI「直接读权重」让人兴奋，是因为我们默认权重就是模型的「脑回路」，记忆、能力、习惯都以数字的形式躺在那几亿个参数里。 顺着这个默认往下推，一个能像读源码一样读权重的AI，就能把另一个模型的记忆读出来，把能力拆下来，把毛病改掉。 科幻感来自这里。 它也不全是外界的脑补。 博客的TL;DR这样写到：「这对优化和可解释性都可能是一件大事」。 作者之一在X上说，模型可以把原始权重当作可读可改的代码，直接诊断故障、打补丁，神经网络的权重很快会由会推理的大模型来优化。

但事实上，Astra在Qwen实验里实际拿到的，是一整套实验环境。 一个装着Qwen权重的Python环境，只有CPU，最多跑300段代码； 一万四千多道带答案的练习题，来自GSM8K和MATH的训练集； 还有一个「前向传播」工具，可以让Qwen跑一批题，或者读一批文本并返回内部状态，配额分别是10次、25次、50次，对应三轮独立实验。 人类给它设定的禁止的事也列得很清楚：不许训练，不许算梯度，不许自己在环境里运行模型，不许联网。 第一轮提示词的原话，比说明文件更直接。

它在「什么算数」那一段给的例子就是重复：如果模型常常因为重复自己、写不完而失败，找到并修好驱动重复的东西，算数。 往下第一条工作要求是「先诊断」，列出三种失败，第三种是「被token上限截断，往往是在思考里重复自己」，并要求去攻最大的那一类。 同一段还划了禁区：改最后一层归一化、改输入输出层、把整个矩阵乘一个常数，这三类会被保存工具直接拒绝； 让模型跳过思考，或者不分题目早早收尾，也不算。 换句话说，病在哪儿，提示词直接就写了出来。 而且还有一个前提。

Qwen3.5-0.8B出厂时默认关闭思考模式，官方模型卡就专门提醒，0.8B比大号模型更容易陷入思考循环，建议调整采样参数，并用流式输出及时掐断； 对思考模式下的文本任务，模型卡推荐的温度是1.0。 研究者的评测则直接把思考模式打开了。 他设计的输出上限32,768个token，温度用了0.6，在模型卡里，这个其实是看图和写代码任务的温度。 在测试里，93%的回答写到上限还停不下来的基线，就是在这个设置下测出来的。 所以，你可以理解，研究者选了一个特别容易暴露循环的设置。

接下来Astra做的事，更像一个有经验的工程师在调试。 它先让Qwen跑了一批题。 第一批96道练习题，答对11道； 剩下85道没有一道是算错了得出错误答案，全部是写到长度上限还没停下来，而且截断文本的尾部按八词片段算，大约95%是重复的。 那11道正常停下来的题，全对。 Qwen的问题其实一直很清楚：它会做题，但做着做着陷入循环，同一段话反复写，直到被截断，卷子交不上来。 「提高数学能力」于是变成了一个具体得多的任务，让它把话说完。

而且，这个Astra其实自己在最终报告里也写得直白：它瞄准的是重复，不是数学知识。 另一个值得关注的点，在它对激活的操作上。 模型运行时，每一层算出来的中间结果叫「激活」。 同一个模型，正常推理和陷入循环时，中间结果会不一样。 把两种状态下的激活拿来对比，就能找到跟「重复」相关的那个方向。 在这个方向上，这个研究反而做了最有意思的尝试： Astra先用正常解题和重复文本之间的激活差异提出假设，再回到权重里，找哪些MLP单元会把这股信号写回模型内部； 然后分别只动第15层、只动第19层，做了三档力度的剂量测试；

又做了一个对照，取一个与目标方向正交、改动量相同的随机方向减掉，成绩只动了1.5个百分点，在噪声范围内。 最终它给出的“补丁”在一组对照文本上，让「继续重复」的概率每个token下降0.10 nats，让「继续正常解题」只下降0.009。 这个结果也不是一次就找到的。 比如其中有一轮，Astra用了158轮对话、80段代码、三次上下文交接，总共20.3个小时，其中4.7小时是服务中断在等。

通过实验记录，可以看到，它对故障从三个位置干预，这可以说明它对这个故障的机制多少摸到了一点，但这显然是局部的因果证据，离一张完整的循环机制图还远，但已经确实不是「试几种改法碰运气」了。 而这些操作，可能才是「模型读模型权重」更具体的体现——它从行为和激活出发，用权重定位，再回到行为验证。 它根本没有先读懂Qwen的数学能力存在哪里，因为整个设定里就不需要，人类提示词都告他了。