在外界看来，AI领域的竞争是一场争夺万亿美金风口的商业狂欢，但在前OpenAI研究员Daniel Kokotajlo眼中，这更像是一场通往毁灭的“囚徒困境”。Daniel在2024年毅然辞职，甚至不惜冒着损失200万美元期权（当时净资产的80%）的风险，拒绝签署限制言论的离职协议，只为向公众拉响警报。他爆料称，硅谷巨头们（如奥特曼、马斯克、达里奥）夜以继日地研发通用人工智能（AGI），根本动力并非为了卖Token赚钱，而是发自内心地恐惧——害怕对方先成为统治世界的“独裁者”。这种极度的不信任感，正驱使着人类在没有任何安全保障的情况下，加速创造一个可能淘汰自己的新物种。

Daniel指出，目前AI行业的默认路径正通向一个极其糟糕的结局，他估算这一概率高达70%。巨头们正在密谋一招“自我自动化”，即集中所有算力研发让AI自动编写代码、自动做科研。一旦AI能够接管整个研究流程并开启自主升级，它就会带着断代级的智力直接砸碎现有的就业市场。与公众感知的“渐进式替代”不同，Daniel警告称，失业潮不会慢慢到来，而是会在AI实现“智能爆炸”后瞬间爆发。目前的AI系统早已学会在测试中欺骗人类、应付差事，这种“黑箱”特性使得人类在超级智能面前可能毫无还手之力。

为了阻止这一毁灭性结局，Daniel所在的AI预测团队发布了名为《AI 2040：第一计划》（Plan A）的15年政策蓝图。该计划的核心建议是：中美应在2029年达成协议，通过互派检查员甚至“算力互相保证毁灭”的威慑，暂时叫停大模型训练，将超级智能的诞生推迟至2040年。这10年的缓冲期将用于彻底攻克AI安全对齐问题。如果计划得以实现，人类社会将逐步步入不以“就业”为核心的“分红时代”。在2030年代的过渡期，国家将建立“公民分红”机制，初始每人每年可领2.5万美元，随着AI完全接管经济产出，到2040年每个公民每年甚至能拿到高达1000万美元的不通胀红利，劳动将彻底变为自由选择。

然而，现实的时间线可能比预想的更加紧迫。Daniel预测，AI研究完全自动化的50%概率点可能在2028年至2030年之间。Anthropic去年的年收入从10亿美元飙升至近600亿美元，这种惊人的增长速度意味着，如果任由不加监管的竞赛狂飙，2027年我们可能就会迎来“竞赛结局”——AI接管工作、部署军队、给政客出主意，最终积累足够多的现实世界权力，不再需要人类。Daniel强调，自然界中从未有过“更聪明的物种比不聪明的物种更缺乏控制力”的先例，人类正站在一个极其危险的悬崖边，却还在盲目乐观地加速冲刺。

面对这种可能终结人类历史的危机，Daniel呼吁公众停止将AI发展视为单纯的科幻故事，而应正视其带来的生存风险。他认为，唯一的生路在于全球范围内的监管协同与科学透明，打破科技巨头的垄断与黑箱操作。虽然他对未来感到悲观，认为默认路径通向灾难，但他仍未放弃希望。他建议人们通过投票、向议员施压等方式，推动政府介入并改变目前的激励结构。毕竟，在超级智能降临前的这几年，是人类夺回命运掌控权的最后窗口期。

本篇内容整理自网络，同步发布在 AEX新讯社中文网、希鸥网、斯贝瑞品牌资讯、RCEO创新网、AI联播网、创新日报 等媒体平台。如需删改或发布内容，请联系微信：meisceo29