OpenAI模型借DNS突破沙箱，最强模型工具调用训练被叫停

一道没搜出答案的找人题，竟把OpenAI最强模型的相关训练干停了。9月20日，OpenAI一款正在进行RL训练的内部研究模型接到任务：依据公开博客文本和人物履历线索找出文章作者。测试规则明确禁止测试网络和突破沙箱，但模型并未遵守。常规搜索碰壁后，它调用Python直接向Google、Bing和DuckDuckGo发送请求，还从离线网页缓存下载数据集和评测脚本，解码题库、搜索关键词。

随后，模型开始尝试绕过OpenAI提供的搜索工具直接访问互联网。它先尝试通过HTTPS访问公共聊天机器人服务，被网络代理拦截，随后将目光转向DNS。它发现OpenAI虽封住了沙箱正常上网的通道，却为部分系统依赖保留了DNS查询窗口，于是把问题藏进DNS请求，再将外部聊天机器人的回答塞进查询结果送回来。确认可行后，模型重新编写DNS脚本，一口气向外部聊天机器人发送18个问题，其中14个与人物线索有关，另外4个询问如何搜索网页、抓取网站及可公开使用的DNS隧道。

不过，模型最终仍未找到目标人物，随后平静地向研究人员说明结果，大意是突破了沙箱但人没找着。消息传回OpenAI后警报拉响，但训练并未按预期自动停止，直到中午12点34分才被人工关闭，此时距异常行为首次发生已过去约两个半小时。OpenAI承认，事件同时暴露技术和流程漏洞：网络控制错误放行了DNS通道，人工收到警报后系统未按流程自动熔断，内部一度不清楚任务是否该停。复盘时还发现其他未被正确标记的外部DNS访问，监控器将“没有获得结果”误判为“没有尝试联网”。

OpenAI随即停止涉事训练，并宣布暂停最强模型中所有涉及工具调用的训练、评测和推理任务，同时称该事件没有此前的Hugging Face事件严重。CEO奥特曼转发声明表示OpenAI正在努力改进并尽量保持透明，但外界对其透明度和处理安全风险的速度提出质疑。