EasyVibeCoding Podcast
模型權重也能直接編程?Weight-Space Programming 的早期實驗
6:34
模型權重也能直接編程?Weight-Space Programming 的早期實驗
2026 年 11 月 2 日,Rikiya Takehi、Jayden Teoh、Alex Zhang 與 Omar Khattab 發表一系列實驗,測試大型語言模型能否直接讀取、理解並修改神經網路的權重。這些權重通常由訓練演算法調整;研究團隊則讓 GPT-6 Astra 依照自然語言目標分析權重,並在部分實驗中直接改寫。作者將這種做法稱為 Weight-Space Programming(權重空間編程)。
這項工作的看點不只在於模型能寫出一組新數字,而在於它嘗試把權重視為可閱讀、可推理、可修改的程式結構。研究從小型網路逐步推進到 0.8B 參數的語言模型;不同實驗允許的工具和回饋不同,因此成果也需要放回各自的測試條件中理解。
從辨認網路,到修改權重
在前幾個實驗中,Astra…