辛顿首次下场"AI造AI"论文：留给人类装监管方向盘的时间，可能只剩一两年

近日，诺贝尔物理学奖得主、多伦多大学荣休教授杰弗里·辛顿（Geoffrey Hinton）在社交平台X上转发了一篇论文《如果AI研发自动化引发智能爆炸？》。这篇论文由22位AI研究人员联合署名，聚焦递归自我改进（RSI），即让AI参与设计下一代AI。2023年从谷歌离职、持续公开警告AI风险的辛顿，这是首次正式进入该领域的学术讨论。

希鸥网观察到，论文援引的内部数据已经把推演拉进现实。Anthropic的记录显示，2025年1月，AI生成的获批代码占比还是个位数；到2026年5月，这个数字超过80%。同一家公司内部，Claude在只接受高层级人类监督的情况下，能自主完成的AI研发工作量，从2026年3月的1%升到8月的26%。极端假设下，今天要走一年的技术进步，未来5周就能走完。

辛顿为什么把监管比作方向盘，而不是刹车。AI停不下来，它已经有太多有用用途，也绑着巨大经济利益。减速的困境写在博弈结构里：一些公司踩刹车，另一些踩油门，后者拿走全部市场。真正可做的，是把资源投向如何让AI更安全地发展。他给的类比是FDA：新药不能由药厂自己宣布安全，AI也不该例外。

监管的现实阻力写在利益结构里。Anthropic CEO达里奥·阿莫迪提出"放缓前沿模型研发"，辛顿给方案打A、给勇气打A+，同时点破：没有哪家大型AI公司真心欢迎强监管，嘴上说"我们自己能做好"，具体条款一落地就反对。阿莫迪拒绝美国国防部用其模型大规模监控公民，为此与政府起冲突，代价可能落在Anthropic的IPO上。

用户心理的迁移同样在加速。辛顿说，四分之一的年轻人相信AI会取代人际关系，他把这视为真正的风险源——一个永远顺着你、只关注你的对象，会让人更难与正常人打交道。Z世代拒绝用AI，他的评价是"被误导"，理由很直接：这像拒绝使用袖珍计算器。而在身体灵活性上，机器人仍落后于人类，中国厂商在这条赛道上追得最快。

希鸥网认为，这场讨论的真正变量不是"AI会不会失控"，而是制度建设的速度能不能追上指数曲线。辛顿给出的窗口是一到两年，不是一两年后必然出事，而是若能力按现有斜率加速，人类只剩这点时间把监管框架和安全机制搭起来。谁在这一轮获益？算力与芯片供应链、模型层头部公司。谁在受损？被智能体替代的白领岗位，以及各国政府正在流失的税基。

对创业者而言，判断的起点不在会议室。李志磊有一条经验：早期创始人必须泡在客户场景里，亲耳听他们凌晨打来电话骂系统崩了，亲眼看到他们怎么用你的产品解决自己的难题，价值锚点才会显形。他的第一个客户成了十六年的老朋友，也是迭代方向的指南针。AI把技术扩散拉平之后，创始人唯一无法外包的能力，就是以小白视角每周走一遍自家产品的全流程，手感一丢，决策就开始悬浮。

组织层面的准备同样不能拖。李志磊在团队只有五个人时，坚决请走了一位能力极强但爱抢功甩锅的早期成员，肉疼，却让所有人看清"合作坦诚"是不可践踏的红线。文化是长出来的，不是写出来的，创始人的每一次选择都在浇水或下毒。他前200号员工的终面都要自己见，聊的不是技能，是味道——技能能培养，底层的价值观、求知欲和责任感几乎改不了。AI时代招人更该如此，错一个人，整条产品线跟着跑偏。

拿到融资之后，创始人会被董事会、顾问和"大佬"包围，听到各种高屋建瓴的建议：做平台、打一线城市、布局生态。李志磊承认自己最大的冒进错误，就是听了一位资深投资人的话过早做区域扩张，后方粮草没跟上，两头差点都守不住。他强调要区分"正确的道理"和"适合的时机"。这在AI赛道尤其致命：巨头可以烧钱赌模型上限，初创公司必须先在真实的一线火药味里，找到能自我造血的客户结构，而不是把命押在单一渠道上。

金鸥品牌榜·2026年度创新案例库开放申报了。免费提报，独立评估，入榜品牌将获得电子版《入榜证明》及年度专题公示，优秀案例可获得深度专访+全平台分发。 如需修改或发布文章，请加微信号：sheisceo