OpenAI安全团队再现人事动荡。据BI报道,OpenAI Safety Systems团队内负责“安全透明度”职能的负责人David Robinson已离职,其本人尚未公开说明离职原因,OpenAI也未公布继任者。安全透明度团队的工作,是把内部的技术发现、风险判断和部署决定整理成外界能看懂的公开材料,扮演技术部门与公众之间的“翻译器”。
该团队归属于Safety Systems内部的Trustworthy AI团队,产出包括system card、Deployment Safety Hub、安全研究博客和公开治理文件。其中system card最为外界熟知,需写明模型训练方法、接受的安全评估、在生物和网络攻击等高风险领域达到的能力、内部采取的安全措施以及遗留风险等,篇幅通常达数十页,可类比为食品包装上的“营养成分表”。Robinson还是OpenAI《Preparedness Framework 2.0》的主要起草人,该框架新增生物与化学能力、网络安全能力、AI自我改进能力三类需追踪能力,并规定模型能力达到High或Critical时的部署要求。
在Robinson离职消息曝光前,OpenAI安全部门已状况频发。据《华尔街日报》报道,OpenAI解雇了三名从事安全与模型对齐研究的员工Jasmine Wang、Tomek Korbak和Mikita Balesni,理由是内部调查发现三人将公司敏感信息分享给一家外部AI安全机构,其中还涉及OpenAI基础设施架构内容。值得注意的是,Tomek Korbak此前曾担任OpenAI与第三方评估机构METR、Redwood Research之间的技术联系人。
此外,Robinson不久前还在招聘OpenAI首位Safety Transparency Editor,该岗位负责重要安全透明度材料的编辑质量,从项目启动到最终发布全程推动system card及相关文件的叙事与表述,目前仍处于招聘状态。