MIT CSAIL 团队利用 GPT-6 Astra 直接编辑 Qwen 权重，数学成绩提升近六倍
麻省理工学院计算机科学与人工智能实验室（CSAIL）的研究人员近日发布报告称，他们成功使用 OpenAI 的 GPT-6 Astra 语言模型，通过直接编辑开源小模型 Qwen 的权重参数，将其数学测试分数提升了约六倍。该研究由 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 共同完成，相关博客文章已于 11 月 2 日发表。
研究人员将这种方法称为“权重空间编程”（weight-space programming）。与传统训练流程不同，该方法让 Astra 模型直接解读并修改神经网络内部的数值参数，从而改变模型行为。实验结果显示，在最强语言模型案例中，Astra 仅触动了 Qwen3.5-0.8B 模型约 0.016% 的权重，就使其在 MATH-500 基准测试中的得分从 7.9% 跃升至 48.1%。这一显著改进主要源于纠正了模型推理过程中的重复性问题。
这项研究展示了一种更广泛的可能性：即 AI 系统能够直接作用于其他神经网络的内部机制，对其进行检查、修复或构建。Databricks 技术员工、Hyperbolic Labs 前联合创始人兼 CTO Yuchen Jin 对此表示赞赏，他认为这相当于对神经网络进行“基因编辑”，其效果甚至优于传统的知识蒸馏技术。
Voyage AI 研究员 Chandan Singh（曾任职于 Microsoft AI）也对该成果给予了高度评价。他指出，对于质疑该研究是否过度炒作的人而言，实际上这篇文章可能低估了该方法的潜力。
