近日,Anthropic研究员Jacob Coxon因对AI灭绝风险的深切担忧而辞职,并公开呼吁各实验室之间达成“节奏协议”,以放缓AI技术的自我改进步伐。他在离职声明中直言,当前AI的发展态势无异于“拿我们的生命赌博”。

Coxon的辞职在AI领域引发广泛讨论。他强调,随着AI系统能力的快速提升,其自我改进可能带来的风险已超出可控范围,业界需在技术竞赛与安全伦理之间寻求平衡,避免因盲目追求性能而忽视潜在威胁。