MIT称GPT-6 Astra直接修改Qwen权重，数学能力自测提升约6倍
MIT研究者发布博客称，让GPT-6 Astra直接编辑Qwen模型权重，无需训练即可修复推理循环，使数学得分从7.9%升至48.1%。
美国麻省理工学院（MIT）计算机科学与人工智能实验室（CSAIL）的研究者于11月2日发布博客，介绍了一种名为“权重空间编程”（Weight-Space Programming）的新方法。该方法让前沿大模型GPT-6 Astra直接读取并修改另一个小模型Qwen3.5-0.8B的权重参数，全程不使用梯度下降或传统训练流程。
据该博客报告，Astra通过分析发现Qwen在数学任务中容易陷入重复生成的推理循环。它定位到第15层和第19层的特定输出列，仅修改了其中0.016%的权重，就消除了这一障碍。在MATH-500基准测试中，Qwen的得分从7.9%提升至48.1%，约为原来的6倍；指令执行能力也同步提升了3倍。
研究还展示了Astra从零生成网络权重的能力。在MinAtar打砖块游戏中，Astra一次回复生成的网络得分为517.4，远超经过5亿步强化学习训练的基线模型（25.3）。然而，作者指出这种方法目前主要用于“移除阻碍能力的缺陷”，而非赋予模型原本不具备的能力。例如，在很少出现循环问题的Gemma 3 270M模型上，同样的方法并未带来性能提升。
需要强调的是，上述结果均为研究团队自行报告的实验数据，尚未获得独立复现验证。