原帖引用 · AI 翻译
Rohan Paul@rohanpaul_ai
重大突破。MIT 研究人员展示了 GPT-6 Astra 可以直接修改另一个 AI 模型的权重，无需训练，就能改进该模型。
在这项研究中，GPT-6 Astra 仅编辑了 Qwen3.5-0.8B 的 0.016% 权重，就在无需训练的情况下将其 MATH-500 成绩从 7.9% 提高到 48.1%。
Astra 在一个 Python 笔记本中获得了 Qwen 的权重，并有 50 次用练习数学题进行测试的机会。它发现该模型会不断重复，直到达到长度上限；随后将这种行为追溯到由其中 2 个层写入的单一内部信号，并从权重中减去了该信号。
循环消除后，该模型就能完成那些它原本已有能力解出的题目的答案。
这一次有针对性的编辑改动了 0.016% 的权重，使数学题准确率从 7.9% 提高到 48.1%。
我们请 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重，以提高其数学能力。
它直接修改了仅 0.016% 的权重，修复了 0.8B 模型的推理循环，使数学能力最高提升至原来的 6 倍，连指令遵循能力也提升至原来的 3 倍，且没有使用梯度或训练。
我们称之为“权重空间编程”（Weight-Space Programming）：前沿大语言模型如今可以直接读取和写入神经网络权重！🧵
博客：https://t.co/bOWCcFhCVq
原文
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq
· UTC+8