MIT 团队发布一项前沿 AI 研究成果，GPT‑6 Astra 可以直接读取并修改其他小模型的神经网络权重，在本次实验里仅改动极少比例权重，就让 Qwen3.5-0.8B 小模型在 MATH-500 数学基准测试的成绩提升约 6 倍，这项技术被命名为权重空间编程，全程不需要传统梯度下降和模型重训练，为小模型能力优化开辟全新技术思路。该方法能生效，是依靠 GPT‑6 Astra 自身的推理能力分析神经网络参数逻辑，定位模型能力短板，只修改少量权重参数，不需要海量训练数据，大幅降低小模型能力升级所消耗的算力。大家可以查看 MIT 研究论文原文，了解权重筛选、参数修改、基准测试的完整实验流程，也可以关注后续相关团队更多验证实验。综合来看，本次实验验证了大模型直接编辑神经网络权重的可行性，为轻量化 AI 模型性能优化提供新颖的技术路径，有助于低成本提升小模型的推理与数学解题水平。
实验基础信息
表格
| 项目 | 详情 |
|---|---|
| 主模型 | GPT‑6 Astra |
| 被优化小模型 | Qwen3.5-0.8B（8 亿参数） |
| 修改权重占比 | 约 0.016% |
| 测试集 | MATH-500 |
| 原始得分 | 7.9% |
| 优化后得分 | 48.1% |
| 技术名称 | 权重空间编程 |
技术核心特点
- 无需梯度下降：不用传统训练循环，不需要大量标注训练数据
- 修改范围极小：仅调整极小一部分权重，不改动模型整体结构
- 能力多维度提升：除数学能力外，模型指令遵循能力也同步提升
- 原理逻辑：GPT‑6 Astra 自主分析网络权重，定位缺陷并完成参数修正
和传统模型优化方式对比
- 传统微调：需要大量数据集、多轮梯度训练，改动全部或大量参数，算力消耗高
- 本次权重空间编程：依靠 GPT‑6 Astra 推理，只修改少量权重，省去大规模训练环节
【常见问题】
问题 1：MIT 研究发现 GPT‑6 Astra 可直接修改模型权重，实验选用的小模型是哪一款？
回答 1：MIT 研究发现 GPT‑6 Astra 可直接修改模型权重，本次实验选用的是 Qwen3.5-0.8B 这款 8 亿参数的小模型作为优化对象。
问题 2：MIT 研究发现 GPT‑6 Astra 可直接修改模型权重，这次提升小模型数学能力用到什么技术？
回答 2：MIT 研究发现 GPT‑6 Astra 可直接修改模型权重，本次使用的新技术叫做权重空间编程，不需要梯度下降训练，由 GPT‑6 Astra 直接读写神经网络权重。
问题 3：MIT 研究发现 GPT‑6 Astra 可直接修改模型权重，这次实验修改了小模型多少权重？
回答 3：MIT 研究发现 GPT‑6 Astra 可直接修改模型权重，本次实验 GPT‑6 Astra 仅修改小模型大约 0.016% 的权重，就实现数学测试成绩约 6 倍提升。
【参考资料】
[2026-11-03]（MIT 研究者提出「权重空间编程」:GPT-6 Astra 仅修改 Qwen3.5-0.8B 约 0.016% 权重，数学成绩提升至原来 6 倍）IT 之家
[2026-11-03]（MIT：GPT-6 Astra 能直接修改 Qwen 权重，数学能力暴涨 6 倍）量子位
[2026-11-02]（Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights）MIT 研究博客
【免责声明】
本文信息来源于 MIT 公开研究论文以及科技媒体报道，仅作为前沿技术资讯参考，不构成技术落地、产品开发、投资相关决策依据；相关实验结论为实验室环境下取得，实际落地效果以复现实验结果为准，技术细节请查阅原始论文。
本文来自作者[智源瞭望台]投稿，不代表新投网立场，如若转载，请注明出处：https://www.eastpo.net/ai/202611/71.html
评论列表（4条）
我是新投网的签约作者“智源瞭望台”！
希望本篇文章《MIT 研究发现 GPT‑6 Astra 直接修改模型权重提升小模型数学能力相关介绍》能对你有所帮助！
本站[新投网]内容主要涵盖：互联网行业的追踪与探索
本文概览：MIT 团队发布一项前沿 AI 研究成果，GPT‑6 Astra 可以直接读取并修改其他小模型的神经网络权重，在本次实验里仅改动极少比例权重，就让 Qwen3.5-0.8B 小模型在 MATH-500 数学基准测试的成绩提升约 6 倍，这项技术被命名为权重空间编程，全程不需要传统梯度下降和模型重训练，为小模型能力优化开辟全新技术思路。该方法能生效，是依靠 GPT‑6 Astra 自身的推理能力分析神经网络参数逻辑，定位模型能力短板，只修改少量权重参数，不需要海量训练数据，大幅降低小模型能力升级所消耗的算力。大家可以查看 MIT 研究论文原文，了解权重筛选、参数修改、基准测试的完整实验流程，也可以关注后续相关团队更多验证实验。综合来看，本次实验验证了大模型直接编辑神经网络权重的可行性，为轻量化 AI 模型性能优化提供新颖的技术路径，有助于低成本提升小模型的推理与数学解题水平。