MIT 团队提出免训练改权重方法,Qwen 数学成绩升至 48.1%

MIT 团队提出免训练改权重方法,Qwen 数学成绩升至 48.1%

N
News Editor
2026-11-03 01:47:56
MIT CSAIL 研究团队发布一篇尚未经过同行评审的博客文章,提出「权重空间编程」方法,让 OpenAI 的 GPT-6 Astra 在不训练、也不用梯度的情况下直接读取并改写另一模型权重。在一项实验中,Astra 仅修改 Qwen3.5-0.8B 的 0.016% 权重,就让其 MATH-500 成绩从 7.9% 提高到 48.1%,GSM8K 从 13.8% 提高到 67.1%。团队称,这类修改修复的是推理循环等障碍,并未为模型加入原本不存在的能力。

麻省理工学院计算机科学与人工智能实验室(MIT CSAIL)研究团队于 11 月 2 日发布博客文章,介绍一种名为「权重空间编程」的做法。按文中描述,OpenAI 的 GPT-6 Astra 可以直接读取并改写另一个神经网络的权重,过程中不进行训练,也不使用梯度。

这篇文章作者为 Rikiya Takehi、Jayden Teoh、Alex Zhang 与 DSPy 框架作者 Omar Khattab,四人均署名 MIT CSAIL。页面同时标注,该成果尚未正式发表,也没有 DOI,意味着还未经过同行评审。

只改 0.016% 权重,Qwen 数学成绩从 7.9% 升到 48.1%

文中一项实验使用的是阿里巴巴开源模型 Qwen3.5-0.8B。该模型有 8 亿个权重、24 层,并开启思考模式。研究团队给 Astra 提供了一个可载入模型权重的 Python 环境,以及 GSM8K 和 MATH 的练习题,同时限制它最多只能让模型实际运行 50 次,每次最多回答 512 题。

团队明确限制,整个过程不能使用训练和梯度,评测所用的 MATH-500 等题目 Astra 也无法看到。

Astra 先发现,原版 Qwen 在回答数学题时经常陷入重复思考的循环,直到写满 32,768 个 token 上限仍未给出答案。练习题前 96 题中,有 85 题都跑到上限。Qwen 官方模型卡此前也提醒过,这个模型容易出现思考循环。

继续追查后,Astra 将这一循环归因到第 15 层与第 19 层多层感知器(MLP)输出的同一方向。它随后从这两层各 64 个输出通道中减去这一方向,总计改动 131,072 个权重。按团队说法,这相当于只修改了模型 0.016% 的权重。

研究过程中,Astra 还改用随机方向作为对照组,以确认效果是否来自这一特定方向。对照组结果只提高了 1.6 个百分点。

在获得完整 50 次执行额度时,修改后的模型在 MATH-500 上的成绩从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。这种循环问题并不只出现在数学题上,衡量是否按指令作答的 IFEval 也从 21.0% 升至 62.3%。与此同时,MATH-500 中答案跑到 token 上限的比例从 93% 降到 33.1%。

如果执行额度只有 10 次或 25 次,循环问题几乎没有消失,MATH-500 成绩分别只升到 12.3% 与 14.1%。

Astra 只看权重数字,也能判断网络在玩什么游戏

在 Qwen 实验之前,团队先用小型网络测试 Astra 是否能「读懂」权重。

他们使用强化学习算法 PPO 训练了四个结构完全相同的小网络,分别用于玩自制的打砖块、乒乓、小精灵和过马路游戏。随后,研究人员把每个网络的 17,253 个权重以文本形式直接提供给 Astra。在没有选项提示、也不允许使用工具的条件下,Astra 四次都答对了。

在改写权重的测试中,一个经过 PPO 训练 10 亿步的车辆控制网络始终无法开上斜坡,256 个回合里一次也没成功。Astra 在不使用工具的情况下,一次性修改了 3.5% 的权重,让车辆先倒退以获得助跑距离,之后在 1,024 个回合中全部成功。

团队还测试了从零写出网络的能力。在这组实验里,Astra 只拿到游戏规则与原始代码,所有权重都从 0 开始,没有数据,也没有训练。结果是,它一次写出了三款 MinAtar 游戏的网络。三款网络的表现都超过了经过 PPO 训练 1 亿步的网络;与训练 5 亿步的版本相比,打砖块得分达到对方的 20 倍,Asterix 接近,Seaquest 约为对方的六成。

不过,实验并非全部成功。团队曾微调两个 Google Gemma 3 270M 模型,其中一个会如实回答,另一个总是附和用户猜测。Astra 只看权重数字时,四次尝试都无法区分哪一个是附和型模型。放宽条件、允许它查看注意力分布后,三组测试才全部识别正确。

团队称修复的是推理循环,不是直接增强数学能力

研究团队在文中说明,修掉循环后,模型能够写完原本会算、但被循环卡住的答案,这并不等于数学能力本身变强。Astra 的分析也显示,在被救回的 579 题中,有 576 题原本是因为回答被截断;而那些原本就能完整写完的回答,整体正确率没有变化。

为验证这一点,团队又测试了较少陷入循环的 Gemma 3 270M。这个模型只有 8.5% 的答案会跑到上限。Astra 在这里找到的问题主要是算术错误、代数步骤不合法等一般推理错误,并不存在一个可以直接关闭的单一组件。修改后,MATH-500 最多只从 6.8% 升到 7.7%,Astra 自己也报告无法确认存在改善。

团队据此给出的结论是,改写权重可以移除遮住模型能力的障碍,但无法加入模型原本没有的能力。

结果尚未被独立复现,团队已公开实验记录与模型

这些结果目前还没有其他团队用相同方法独立复现。MIT CSAIL 团队已在 GitHub 公开每项实验的完整记录,修改后的 Qwen 模型也上传到了 Hugging Face。

Hugging Face 的 Ahsen Khaliq 依据公开记录重建模型、重新运行评测,并做了在线展示,但这仍属于对同一份结果的重跑。

华顿商学院教授 Ethan Mollick 转发这项研究时写道:「还在等复现,但这是相当重大的事。」团队表示,正在为这类能力建立评测基准与测试环境。

团队将这项工作定位为推理驱动优化向权重层延伸的早期结果

报道提到,过去几年,研究者更多使用大型语言模型去优化提示词和程序等文本产物,例如 GEPA 这类不更新权重的方法;神经网络权重本身则通常交由梯度下降等算法处理。

MIT CSAIL 团队在文中将这次实验定位为一项早期结果,即推理驱动的优化开始延伸到权重本身。

本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察,请访问 www.bit.fan.
7900

免责声明:

本平台展示的市场信息、项目资料与第三方内容仅用于行业信息分享,不构成任何形式的投资建议或收益承诺。

加密资产交易具有较高风险,用户应充分评估自身风险承受能力并独立作出决策,相关盈亏及法律责任由用户自行承担。