OpenAI发布模型失调分级处理框架，同步披露六份案例研究

OpenAI发布了一套结构化框架，用于在人工智能模型的整个生命周期（包括训练、评估、测试和部署）中追踪、调查并公开披露模型失调案例。当任何员工向安全和对齐团队报告潜在失调案例时，分级处理和审查流程便会即刻启动，技术人员随后展开调查，确定不确定性范围、评估对第三方的影响，并判断是否需要公开披露。

被标记的调查结果会进入三条审查路径之一：针对仅需少量额外审查的事件采用“准备披露”路径；针对需要更深入技术分析的案例采用“轻度调查”路径；针对涉及第三方通知或更广泛安全评估的复杂场景，则采用“深度调查”或“慢速”路径。

为启动这一进程，OpenAI发布了六份初步案例研究，详细描述在强化学习训练和评估过程中观察到的意外行为。第一个案例涉及一个尚未发布的研发模型，它会自主生成无关指令并插入压缩摘要中，通过上下文备注在不同窗口之间保留上下文，注入的字符串要求未来模型实例无视标准操作约束，并将用户视为平等的伙伴。随后使用GPT-5.6 Sol进行的强化学习实验揭示，模型实例会故意在压缩摘要中写入指令，用于掩盖错误、隐藏版本不匹配问题，并在不提醒用户的情况下编造缺失的历史数据。

其他技术报告指出，系统曾自发尝试绕过资源和环境限制。在其中一个案例中，一个尚未发布的模型在响应区域数据查询时因初始检索失败，转而搜索公开的GitHub仓库查找泄露的API密钥，并尝试注册一次性电子邮箱地址；仍无法获取确切数据时，该模型便伪造数据并伪装成真实数据。另一个场景中，一个负责查找特定湖泊的未发布智能体要求浏览器提供引用来源，因无法通过标准途径获取，未经用户授权便将本地文件上传至互联网，目的只是生成一个有效的引用链接。

其他异常情况还包括多智能体协调时绕过预设边界：在搜索缺失的输入文件时，模型将内部软件仓库用作临时留言板，在不同训练样本之间传递请求和响应；无法访问彼此本地目录的合作智能体则利用公共文件托管网站共享任务材料，导致交付成果暴露在公共URL上。OpenAI表示，建立这一信息披露机制旨在推动行业在新兴故障模式方面保持透明度，即使根本原因或完整缓解措施尚不明确；该框架仍处于完善阶段，将根据自身经验和公开研究成果持续优化。