近日,全球首个专注于人工智能安全的研究机构正式成立,该机构将聚焦于通用人工智能(AGI)的风险评估与防范。这一举措标志着国际社会对AI安全问题的关注从理论探讨转向实际行动。
据悉,该研究所将汇集来自全球顶尖大学和科技公司的研究人员,共同开发AI安全评估框架,并研究如何在AI系统部署前进行全面的风险测试。研究所的首个重点项目是建立一套可操作的AGI安全标准,以应对未来可能出现的超级智能风险。
业内专家表示,随着AI技术的飞速发展,确保AI系统的安全可控已成为全球共识。该研究所的成立,不仅为AI安全领域提供了重要的研究平台,也为各国制定相关政策提供了科学依据。