美AI巨头喊“降速” 安全焦虑背后暗藏商业考量

美国AI巨头近日不约而同地谈起“降速”。9月12日，Anthropic首席执行官达里奥·阿莫迪发表长文，呼吁放慢前沿AI能力提升的步伐，OpenAI首席执行官山姆·阿尔特曼随后表示支持，xAI的老板马斯克也转发认同。一位不久前从Anthropic辞职的研究员考克森公开警告，“到本世纪20年代结束前，人工智能可能会杀死我们所有人。”

这并非业界首次呼吁为AI研究“踩刹车”。2023年，马斯克、图灵奖得主本吉奥等数千名AI领域企业家、学者曾联署公开信，呼吁暂停开发更高级AI。三年过去，对模型的训练并没有停下来，彼时更多停留在对未来超级智能的担忧，如今逐渐向现实靠拢。今年以来，多起智能体越界事件接连发生，在一些测试中，AI智能体突破原有沙箱限制获得更多访问权限，有的则擅自采取开发者未指定的行动。

国家信息中心研究员朱幼平接受采访时表示，传统软件的漏洞是确定性的，但大模型驱动的智能体具备工具调用和多步骤规划等能力，同样的设置在不同情境下可能产生不同动作。随着智能体规模化落地，这类问题可能从偶发的工程事故变成系统性的高频风险。他认为，巨头集体呼吁“限速”，本质上是AI从“对话模型”走向“自主行动智能体”这一能力跃迁的必然产物，其中有真实的安全焦虑，也掺杂着明显的商业考量。

朱幼平指出，安全话语一旦同时承担起门槛功能，“降速”就很难被看作纯粹的安全表态。高安全标准、独立第三方评估、持续运行监控都需要高昂的资金、算力和人才成本，大企业能够承担的安全测评、红队测试和独立审计，对资源有限的中小团队和初创企业而言可能构成难以逾越的障碍。因此，对于AI巨头的呼吁，听其言更要观其行。

中国的实践提供了值得观察的角度。近年来，中国坚持人工智能发展和安全并重，逐步建立覆盖算法、生成式人工智能、安全治理、伦理规范等方面的制度体系。朱幼平提到，中国采用的“小快灵”治理办法，可针对已出现的风险先以更灵活的规则快速回应，再根据技术变化持续调整。此外，美国巨头反复强调的“可核验性”，恰好凸显了中国开源路线的安全价值，开源模型允许外部研究者、企业独立开展测试、审计，探查风险短板，是对闭源黑箱风险的一种正面回应。