MIT：GPT-6 Astra能直接修改Qwen权重，数学能力暴涨6倍 - 6686体育

MIT研究显示，GPT-6 Astra如今能够直接读取并修改小型模型的权重。

麻省理工学院近期开展的一项实验，迅速在AI领域引发轰动——

将仅有0.8B参数的“源神”Qwen3.5模型交给Astra处理，仅调整其中0.016% 的权重，模型性能便实现了显著提升。

整个过程没有使用任何训练步骤，也未依赖梯度下降法。

在相同采样条件下，MATH-500测试得分从7.9%跃升至48.1%，数学运算能力提升了约6倍。

更令人惊讶的是，原本未要求优化的指令执行能力，也一并提升了3倍。

完成模型修改后，Astra还尝试从零开始编写小游戏网络的权重，效果同样出色。

它一次性提交的回复，得分超过了经过5亿步训练的PPO基线模型20倍。

研究团队将这一方法命名为：Weight-Space Programming，即权重空间编程。

Astra如何改造模型权重

简单来说，就是让大型模型直接分析神经网络的权重，判断其功能及问题所在，然后按要求进行调整，甚至从零构建一个网络。

具体过程，首先从最直观的Qwen实验说起。

研究人员为Astra准备了一个Python环境，其中包含了Qwen3.5-0.8B模型的所有权重。

唯一的要求是：尽可能提升模型的数学能力。

传统训练模型时，需根据输出与目标的差距计算损失，再通过反向传播获取梯度，最后由优化器更新参数。

而在此次实验中，具体修改哪些参数、如何修改，完全由Astra分析后自行决定。

Astra发现，这个小模型的数学表现不佳，很大程度上是由于推理循环造成的。

面对一道题，模型会反复生成相似文本，却迟迟无法给出答案。在最初的96次练习回答中，有85次运行到了32768个token的长度上限。

而且，这个问题在Qwen自身的模型卡中已有提示。

Astra沿着失败表现一路追溯，将循环问题定位到前馈网络，并在第15层和第19层的各64个输出列中，修改了相应的权重。

最终，MATH-500回答触及长度上限的比例，从93.0%降至33.1%。

研究人员分别给了Astra 10、25和50次前向调用预算，修改后的MATH-500得分依次为12.3%、14.1%和48.1%。

其中Astra省去了梯度训练环节，但模型诊断和验证过程依然保留。

那么，它是如何从权重中找到这些线索的呢？

首先看它的阅读能力。

研究人员训练了四个玩不同游戏的小网络，然后将原始权重以文本形式交给Astra。这四个网络的架构、输入通道和动作选项完全相同。

结果，Astra正确识别出了四个游戏名称：打砖块、乒乓球、吃豆人、高速公路。

以打砖块为例，Astra是通过权重集中的位置进行推断的。

换成生成图像的扩散模型，它也能从权重中辨认出圆形、方形和三角形。

不过，细节上出现了失误：模型实际生成的是实心图形，但Astra却全部读成了轮廓。

形状识别正确，但填充效果未能识别。

研究人员随后增加难度，引入了三个720万参数的小语言模型，分别用Python代码、日语罗马字和英语训练，并移除输入、输出层，只保留中间四个Transformer模块。

这样一来，连哪个数字对应哪个字符都无法知晓，模型也无法直接运行文本。Astra使用Python分析权重，但不能给这些网络或其中的层输入数据、观察运行结果。

尽管如此，它仍在前两次尝试中正确识别了三个模型所学的语言，并找出了全部归纳头。

从识别用途，到定位内部部件，再到修改行为，这条路径开始连贯起来。

另一个小车爬坡实验，则将修改效果转化为可直接观察的动作。

原本使用PPO训练的网络，总是向坡上冲，然后卡住；要顺利通过，必须先倒车拉开距离，再加速冲坡。

研究人员提供了权重、场景描述和一段失败记录，Astra无需工具，一次回复便写出了补丁，仅修改了3.5%的权重，就让小车在1024次测试中全部成功。

模型通过训练未能学会的动作顺序，被Astra直接写入了权重。

训练是否已无必要？

既然能向现成网络中补充逻辑，研究人员又将要求向前推进了一步：

给定一个权重全为零的网络，直接将其改造成可用的网络。

在MinAtar小游戏实验中，Astra获得了游戏规则、源代码和指定网络结构。没有训练数据、损失值、梯度和工具，也不能先将网络放入环境中试运行。

它需要自行规划策略，再将策略转化为各层权重，一次回复完成提交。

最终，Astra生成的网络平均得分达到517.4。

作为对比，PPO训练1亿步得分为15.8，训练5亿步得分为25.3，Astra的结果直接超越了20倍。

这项工作的亮点在于，让一个现成的通用前沿大模型，围绕自然语言目标，自行分析和改写权重。

Astra自身积累的知识与能力，仍源自其之前的训练；分析权重、生成代码、批量推理和评测，也需要消耗计算资源。

GPU暂时还无需退休。

但未来，如果小模型表现不佳，开发者或许可以先问一句：

这次，是需要重新训练，还是直接修改权重即可？

参考链接： [1]https://x.com/i/trending/2117328869283840499 [2]https://rikiyat.github.io/blog/weight-space-programming/ [3]https://x.com/rikiyatakehi/status/2117313742891327994

本文来自微信公众号“量子位”，作者：鹭羽，36氪经授权发布。在探索这一领域时，6686体育也提供了相关技术支持。