11月3日消息，麻省理工学院近期公布一项突破性大模型实验，GPT‑6 Astra 展现出直接读取、编辑神经网络权重的能力，仅微调极少量参数，就能大幅提升现有小模型性能，这套全新范式被命名为权重空间编程（Weight‑Space Programming），有望改变传统模型训练逻辑。

在针对 Qwen3.5‑0.8B 的测试当中，研究人员将完整模型权重交由 GPT‑6 Astra 处理，目标是提升该模型的数学能力。整个过程不使用传统训练流程，没有梯度下降，仅改动模型0.016% 的权重参数，就实现性能飞跃。

测试数据显示，该模型 MATH‑500 基准得分从 7.9% 提升至 48.1%，数学运算能力约为原先 6 倍；就连并未专门优化的指令执行能力，性能也提升 3 倍。

研究发现，原版 0.8B 规模 Qwen 模型存在推理循环缺陷，解答数学题时容易陷入无效文本生成，大量样本直接触达 32768token 输出上限。Astra 通过解析权重定位问题根源，锁定模型第 15 层、第 19 层部分输出列，针对性调整权重。

修改之后，回答触及长度上限的样本占比从 93.0% 下降至 33.1%。实验同时验证，分配给 Astra 的前向调用预算越高，模型优化效果越好，50 次调用预算下取得本次实验最优数学成绩。

不只是修改已有模型，Astra 还具备解读神经网络内部逻辑的能力。研究团队将多款小游戏智能体的权重以文本形式交给 Astra，它可以仅凭权重信息，准确识别打砖块、乒乓、吃豆人、高速公路四款游戏；面对扩散模型权重，也能够分辨圆形、方形、三角形基础图形，仅在图形填充属性识别上出现误差。

即便剥离输入输出层，仅保留 Transformer 中间模块，隔绝模型运行观测途径，Astra 依旧可以通过分析权重，判断出模型分别学习的是 Python 代码、日语罗马字还是英语，还精准定位到全部归纳头。

在小车爬坡控制实验中，原有经 PPO 训练得到的网络会出现动作逻辑缺陷，冲刺上坡后直接卡死。Astra 拿到权重、场景描述以及失败记录后，一次性输出权重补丁，仅修改 3.5% 参数，就让小车在 1024 轮全部测试中顺利完成任务，把训练难以习得的动作逻辑直接写入网络权重。

更激进的测试中，研究人员给到全部参数置零的空白网络，只提供游戏规则、源码与网络架构，不允许试跑、不提供训练数据与梯度，要求 Astra 直接生成可用权重。

在 MinAtar 小游戏任务下，Astra 一次性生成的网络平均得分 517.4，对比 PPO 训练 5 亿步得到的基线模型，性能高出 20 倍。

不过这项技术并非意味着 GPU 和传统训练就此淘汰。Astra 自身的基础能力依旧来源于过往训练，权重解析、生成、验证环节同样会消耗大量算力。

该研究带来全新思路：未来小模型性能不足时，开发者不一定需要完整重训，或许可以直接依靠大模型完成权重诊断与局部改写。目前相关博客与实验细节已经对外公开，为大模型开发开辟出新方向。