诺贝尔物理学奖、图灵奖得主Geoffrey Hinton参与撰写的首篇递归自我改进(RSI)论文《What if automating AI R&D triggers an intelligence explosion?》近日发布。论文作者共22位,包括两位AI教父Geoffrey Hinton、Yoshua Bengio,强化学习先驱Andrew Barto,OpenAI首席科学家Jakub Pachocki等,讨论的正是AI领域最古老而科幻的“智能爆炸”问题。
“智能爆炸”设想可追溯至1965年数学家I.J. Good提出的超智能机器:如果一台机器比人更擅长设计机器,它就能继续设计出更聪明的版本,一轮接一轮形成自我强化的反馈回路。如今RSI讨论的重点已从“AI能否自己改代码、调参数”,转向“AI能否真正进入研发下一代AI的整套流程,并让这套流程本身越来越快”。
论文引用Anthropic等头部实验室的内部数据:2025年1月,AI生成的获批代码还只有低个位数比例,到2026年5月这一比例已超过80%。2026年3月,Claude在仅接受高层次人类监督的情况下可自主完成约1%的研发工作,到同年8月这一数字升至26%,半年左右翻了二十多倍。论文还提到,截至2026年9月,OpenAI内部AI系统已能经常完成原本人类员工需数天完成的研发任务。
论文指出,完整AI研发包括提出研究假设、设计实验、实现实验、分析结果、定位失败原因、调整路线等环节,任何单独一项被自动化都只能算AI辅助研究,真正敏感的节点是它们被串成一条长链。AI研发大量发生在数字环境中,代码可直接执行、实验结果快速返回、模型能力可通过benchmark等指标立即验证,相比化学、生物或制造业更适合自动化。论文综合benchmark趋势与实验室内部进展认为,未来几年AI有可能自动化大部分AI研发工作,甚至完成全部自动化。