7月27日,英伟达、微软、IBM、Adobe、戴尔、思科等数十家科技巨头联合宣布成立开放安全人工智能联盟(Open Safety AI Alliance),旨在通过构建和共享开放工具,推动人工智能的负责任使用。该联盟成员覆盖芯片、软件、云服务、网络安全等多个领域,包括Cadence、Capital One、Cloudera、Cloudflare、CrowdStrike、Databricks、DoorDash、Elastic、慧与、Hugging Face、LangChain、Linux基金会、NAVER、NetApp、Palantir、Palo Alto Networks、Red Hat、Salesforce、ServiceNow、西门子、Snowflake、Synopsys等,阵容堪称“全明星”。

联盟的成立背景是AI安全议题日益受到全球关注。随着生成式AI的爆发式增长,从数据隐私到模型偏见,从滥用风险到系统可靠性,安全问题成为行业共同挑战。开放安全人工智能联盟将聚焦于制定安全标准、开发开源安全工具、分享最佳实践,旨在降低AI部署风险,同时不阻碍创新。联盟成员将贡献各自在AI安全领域的经验和技术,共同构建一个更透明、更可信的AI生态。

值得注意的是,该联盟强调“开放”属性,这意味着其产出的工具和框架将向全行业开放,而非封闭于少数巨头。此举有望加速AI安全技术的普及,尤其对中小企业和初创公司而言,能够降低安全门槛。随着联盟的正式启动,AI行业正从“野蛮生长”转向“安全先行”,这或许标志着AI治理进入新阶段。