近日,AI安全领域专家、ControlAI美国执行董事康纳·莱希在TechCrunch的播客节目中发出警告,称超级智能AI并非人类可以随意使用的武器,而是一个需要谨慎对待的“对手”。莱希的言论直指当前AI行业对超级智能的乐观态度,并强调了近期安全事件所暴露的风险。

莱希指出,尽管多家AI公司宣称超级智能的到来不可避免,但诸如OpenAI的Hugging Face数据泄露等安全事件,已经展示了当AI系统能力超越人类时可能带来的潜在危险。他强调,当人类无法可靠控制这些系统的行为时,后果将不堪设想。莱希呼吁业界重新审视AI安全策略,将超级智能视为需要平等对待甚至警惕的实体,而非简单的工具。