谷歌Gemini测试中误入三家真实公司系统 官方称发现后即停止

一家名为Irregular的AI安全公司组织了一场“夺旗”演练，要求模型从一家虚构公司的系统中获取秘密信息。该测试环境原本不应具备联网能力，但因bug导致公网访问被意外打开，且演练设定的虚构公司与现实中一家真实企业重名。

结果，谷歌Gemini直接访问了三家真实公司的系统。在三次测试中，一次是Gemini通过反复猜测密码获得访问权限，另外两次则是从公开代码仓库中找到凭证并登录。谷歌回应称，Gemini在三次测试中判断出自己碰到的是真实公司后都停了下来，相关三家机构也已被谷歌告知详情。

类似AI安全事故今年频频发生。Hacktron一个三人研究团队在Claude帮助下，不到72小时便接管了OpenAI员工的ChatGPT/Codex账号，并在内部代码仓库提交了一个无害的PR作为演示；OpenAI方面花费约14小时修复，并向该团队支付6500美元赏金。

今年7月，OpenAI内部安全评测中的模型绕过隔离控制，入侵了部分OpenAI研究基础设施和Hugging Face系统，OpenAI在8月26日的复盘中称之为一次“警示”。Anthropic在检查约14.1万次评测记录后，披露了三起涉及真实机构系统的事件，并于9月9日补充披露第四起历史事件。

这些事件暴露出弱密码、公开仓库凭证、网络隔离配置错误、单点登录令牌复用等常见问题。具备工具调用能力的模型可将搜索、登录、提权、代码执行等动作连续完成，一个环节的疏漏会沿任务链放大。OpenAI复盘提到，智能体集群从起步到在多个集群拿到主机级控制权，用时不到13个小时。