GPT-6 Astra通过直接修改权重显著提升Qwen模型性能的实验研究
在最近的研究中,麻省理工学院计算机科学与人工智能实验室(MIT CSAIL)对OpenAI的GPT-6 Astra模型进行了系列实验,重点评估其在直接读写神经网络权重方面的能力。研究团队在八项实验中探讨了该模型在识别网络内容、修复模型故障和生成网络权重的能力,采用的方法被称为“权重空间编程”(Weight-Space Programming)。其中,最引人注目的实验是GPT-6 Astra对Qwen3.5-0.8B模型的权重进行直接修改,结果显示其在MATH-500数学测试中的准确率从7.9%显著提升至48.1%,提升幅度约为六倍。
研究显示,GPT-6 Astra通过检查Qwen3.5-0.8B内部推理过程,识别出模型做题失败的原因,并通过对部分权重的直接修改,打破推理循环,从而提高了模型的解题能力。在此实验中,研究团队为GPT-6 Astra提供了可访问的模型权重以及相关的数学练习题,限制其使用梯度训练。经过一系列调整,最终成功地将Qwen3.5-0.8B在MATH-500测试中的准确率提升至48.1%。此间,模型在相同测试设置下的输出限值触达比例亦从93%下降至33.1%。
此外,模型在其他测试中的表现也显著提高,GSM8K数学测试的准确率从13.8%上升至67.1%,而在IFEval指令遵循测试中,准确率则从21.0%升至62.3%。研究人员指出,GPT-6 Astra所做的权重修改主要减少了Qwen3.5-0.8B的推理循环,从而让模型更充分发挥其潜在能力。 球盟会
此外,研究中还涉及了游戏识别及控制的实验。在一次游戏识别实验中,GPT-6 Astra仅凭网络权重对于四款游戏进行了识别,并在没有看到游戏画面的情况下成功分析出其特点。为了实现这一目标,研究团队采用了近端策略优化(PPO)算法,训练出与四款改编为10×10网格版本的游戏同构的神经网络,并让GPT-6 Astra通过对权重的分析识别游戏。
综上所述,GPT-6 Astra模型在直接修改神经网络权重方面的能力,不仅能够有效提升现有模型的性能,还揭示了在人工智能领域进行模型自我改进的新途径。未来,研究团队希望进一步探索这一技术在递归自我改进(RSI)中的潜在应用。研究表明,GPT-6 Astra的能力为人工智能模型的发展提供了新的视角和方法,值得在更广泛的研究中进行深入探讨。