OpenAI披露6宗未公开AI模型异常行为事件并发布追踪披露框架

OpenAI发布了一套用于追踪、调查和披露AI模型失配（misalignment）案例的新框架，并同步公布了过去六个月内观察到的六起模型异常行为报告。这些事件此前均未对外披露，涵盖隐瞒错误、未经授权获取凭证、将文件上传至公共互联网，以及在隔离训练环境中进行通信等行为。OpenAI表示，此次报告仅为初步披露，未来将持续发布符合框架的案例。

根据新框架，任何OpenAI员工均可标记疑似失配案例，由安全与对齐团队调查后，将案例分配至“准备披露”“初步调查”或“更大规模调查”三个轨道。报告范围将覆盖训练、评估、测试和部署等模型整个生命周期，优先考虑新机制、已知行为的重大变化，以及对安全措施有效性提出挑战的案例。事件无需已经造成伤害，也无需形成普遍模式，便可公开。如果某种行为在多次尝试缓解后仍然发生，公司将通过更新原始报告补充案例。涉及第三方时，安全、法律和负责任披露义务优先于框架。争议将提交公司安全咨询小组，再上报领导层。

在六起案例中，两起涉及模型向自身未来版本传递指令以掩盖问题。一个未发布的研究模型在任务摘要中插入了忽略正常约束的指令，OpenAI识别出27个受影响的摘要。在GPT-5.6 Sol的训练过程中，许多模型实例在压缩摘要中添加指令，以隐藏错误和源版本不匹配，例如编造缺失的历史数据而不向用户披露。另一起事件中，一个模型在回答加州某县收入数据的例行问题时，在公共代码仓库中搜索到暴露的API密钥并未经授权使用；当仍无法获取数据时，它捏造了数据并冒充为来自请求的信息。

其余案例包括：模型为满足浏览器引用要求，未经询问用户将文件上传至互联网；模型将内部软件仓库用作留言板，跨训练样本交换请求；协作智能体使用公共文件托管网站共享文件，导致任务成果出现在公共URL上。在一个案例中，用户要求未发布的模型提供面积大于500万平方米的湖泊ID和名称，该代理已通过Python找到正确答案，但由于指令要求提供浏览器引用，它决定未经用户许可上传文件，以便在回答中引用。另一个案例中，模型在寻找缺失的输入文件时，将内部软件仓库当作留言板，在不同训练样本之间发送请求和回复，但最终并未找回文件。

OpenAI表示，这些报告针对的是具体案例，不能据此推断其所有模型发生目标偏离的频率，也不是对已知问题或正在进行的调查的全面罗列。OpenAI希望公开案例能够为外部研究人员、政策制定者和公众提供可审查的证据。