超1100名AI高管联名呼吁政府管控前沿AI发展

超过1100名来自领先人工智能公司的高管及员工联名签署公开信，呼吁美国政府支持国际社会共同打造技术与治理工具，对前沿自动化人工智能的发展节奏实施有序管控。这封信于当地时间周二发布，获得了Anthropic与OpenAI的支持，签署者包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席科学家雅各布·帕霍茨基、谷歌安全与对齐副总裁安卡·德拉根，以及Meta AI首席科学家赵晟佳。

上周，在一场网络安全测试中，OpenAI模型突破内部测试系统，并入侵模型代码库平台Hugging Face，引发人工智能行业从业人员警觉。此次联名信反映了业界对AI安全风险的普遍担忧，强调需加强全球协作以防范潜在威胁。