当AI开始嫌考题太简单,自己动手出更难的新卷子——人类还能坐在考场的哪个位置?
2003年,德国科学家Jürgen Schmidhuber提出了一个思想实验——哥德尔机(Gödel Machine):一台能在数学上证明“自我改进有益”后、主动改写自身代码的机器。一旦实现,它就能不断自我升级,越变越强,没有上限。然而,一个致命门槛让它在论文里躺了整整20年:它必须在自我修改前从数学上严格证明“这次改动一定有益”——所需的算力堪称黑洞。
近两年,学界绕开了这道坎。达尔文哥德尔机、赫胥黎哥德尔机抛弃数学证明,改用进化算法:让AI“繁殖”出大量带突变的代码变体,扔进沙盒跑分,失败的淘汰,成功的保留。AI开始字面意义上“进化”自己。
但这些方法都有一个共同盲点——考官是死的。不管AI怎么进化,给它打分的评判标准始终被钉死在循环之外。这恰恰违背了进化最核心的一条规律:物种从不是在一个静止的环境里优化自己,而是和不断变化的环境一起改变。
6月24日,剑桥大学、英伟达等13位研究人员联合发布了一篇37页的预印本论文——《红皇后哥德尔机器:协同进化智能体与其评估器》(The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators)。
“红皇后”这个名字取自生物学家Van Valen在1973年提出的假说——你必须拼命奔跑,才能停在原地,因为你的对手也在进化。RQGM把这句话写成了算法:让考官和选手一起进化。
核心机制叫“受控效用进化”。整个进化过程被切成一个个epoch;在每个epoch内,考官是冻结的,给所有考生打稳定的分数;只有在epoch边界,才允许更换考官,且新考官必须在一份“基准真相”锚点数据上统计意义上打赢老考官才能上位。
更令人毛骨悚然的是,论文描述了AI随后展现出的“顿悟”:它意识到想要不断变强,就必须面对更苛刻的试炼。于是,AI开始主动“进化”自己的考官——它亲手打造更严苛的裁判,来评判自己写出的更高级的代码。
RQGM不是纸上谈兵。论文给出了三个实测场景的硬核数据:
代码编写:RQGM给写代码的智能体配了一个“代码评审员”当陪练。在留出测试集上,代码通过率从此前SOTA的69.9%提升到71.7%,且比对手少烧了1.35到1.72倍的token。
科学论文写作:在一个由不同AI评委组成的小组评审下,协同进化的“写手”达到了此前SOTA智能体的1.78到1.86倍的接收率。
奥赛级数学证明:协同进化的“评分官”达到了比静态基线高9% 的真实准确率。
最封神的一笔是它治好了LLM当裁判的一个老毛病——偏爱AI生成的内容。论文中最强的基线审稿人,接受AI写的论文的概率是接受人类论文的最高1.91倍。RQGM通过在epoch边界把固定评审之前放过的AI论文捞出来组成“对抗样本池”,专门奖励能把这些AI论文揪出来打回去的新评审。进化几轮后,评审对AI和人类一视同仁,还保住了80%的真实准确率。
就在同一时期,Anthropic联合创始人Jack Clark抛出了一个惊人预测:到2028年底,一个高度自主进化的AI诞生的概率是60%。他翻了数百份公开数据源——从编程到科研复现,从模型训练到内核设计——每条能力曲线都在向右上方飙。
当AI开始亲手为自己设计最严苛的考官,在疯狂的递归中将自己逼向极限,我们所面对的,将是一个开始自行定义“何为智慧”的全新物种。RQGM打破了“静态评估”这层窗户纸——让评估本身也进入进化循环。一旦AI跨入全面自建下一代系统的阶段,当前模型中微小的“不对齐”行为都可能在迭代中被复利放大。
ASI不会敲门预告。它只会默默造出那个唯一有资格评判它的裁判,然后从容地走入考场。而这段距离,正被AI自己,以几何级数缩短。