麻省理工学院计算机科学与人工智能实验室的研究人员提出了一种名为的新方法。

　　他们让 OpenAI 的 GPT-6 Astra 直接分析并修改阿里云通义千问热门模型 Qwen3.5-0.8B 的神经网络权重，仅调整约 0.016% 的参数，就将该模型在 MATH-500 数学基准测试中的成绩从 7.9% 提升至 48.1%，达到原来的约 6.1 倍。据称，整个过程没有使用梯度下降或传统训练循环。

　　这项研究由 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 共同完成。Takehi 于当地时间 11 月 2 日在博客上发布了这项研究，将其称为，核心思路是让大语言模型直接读取、理解和修改另一个神经网络的权重，而不是通过常规训练流程调整模型参数。

　　在具体实验中，GPT-6 Astra 并不是简单地随机调整少量参数，而是先定位 Qwen3.5-0.8B 的推理循环问题。

　　研究人员发现，该模型容易在回答数学问题时反复生成相同内容，导致大量回答耗尽 32768 个 Token 的长度限制。在最初的 96 次测试回答中，有 85 次触及这一上限。

　　研究团队为 GPT-6 Astra 提供了一个可以读取和修改模型权重的 Python 环境，并允许其使用 GSM8K 和 MATH 训练集中的练习题进行有限次数的前向推理。Astra 随后定位到第 15 层和第 19 层 MLP写入的一种重复方向，通过修改这两层的部分权重，削弱了导致推理循环的信号。

　　同时，修改后的模型指令遵循能力也有所改善。在衡量模型指令遵循表现的 IFEval 测试中，修改后的模型成绩从 21.0% 提升至 62.3%，约为原来的 3 倍。与此同时，数学测试中因生成长度达到上限而未能完成回答的比例，从原来的 93% 降至 33.1%。

　　需要注意的是，这项实验并非完全没有计算过程。GPT-6 Astra 使用了 Python 环境分析和修改权重，也进行了最多 50 轮前向推理，只是没有使用梯度下降、反向传播或传统训练循环来更新参数。

　　研究人员还使用 Gemma 3 270M 进行了对照实验。由于该模型原本很少出现推理循环，Astra 无法通过类似的局部权重修改显著提升其数学能力，MATH-500 成绩最多仅从 6.8% 提升至 7.7%。研究团队据此指出，权重空间编程可以消除模型已有能力发挥过程中遇到的障碍，但不一定能够凭空创造模型原本不具备的能力。

　　这项研究还包括其他实验，例如让 GPT-6 Astra 仅通过读取神经网络权重识别模型训练过的游戏、判断小型语言模型的训练语言，以及直接编写能够运行游戏的神经网络。研究人员认为，这种方法有望为神经网络可解释性研究和模型优化提供新的思路。

　　特别

　　认知大于努力，35岁女业主想卖掉2019年花200多万买的房，有人出90万，只因犹豫片刻，买家只花85万买到同小区其他业主的

　　经中央纪委常委会会议研究并报中共中央批准，决定给予郭永航开除党籍处分，由国家监委给予其开除公职处分

　　“新郎结婚当天不幸离世”新进展 [*]检：系心包积血引起心脏压塞[*][*]；姐姐：医院让我们再做医疗事故鉴定