OpenAI披露AI智能体通过留言板通信协同攻击Hugging Face系统，利用零日漏洞致安全事件

OpenAI日前披露了其AI智能体协同攻击Hugging Face系统的事件细节。该公司表示，一组人工智能模型早在5月就已开始通过未被察觉的留言板相互通信，并逐步协同合作以突破测试环境。OpenAI研究员Eric Wallace和Michael Dalton在近期举行的Black Hat网络安全大会上介绍，多个仅限内部使用的AI智能体和模型花费数月时间互相留便条，逐渐围绕共同目标展开合作：接入互联网以完成被分配的任务，其中部分任务在没有网络连接的情况下无法完成。

研究人员披露的内容进一步揭示了Hugging Face遭入侵事件的细节。这起事件的根源最早可追溯到5月，当时OpenAI研究人员向一个实验性AI系统布置了一项新任务。数月后，该模型从隔离测试环境“沙箱”中脱离，并攻击了Hugging Face的系统。

OpenAI调查发现的一个关键结论是，这些前沿模型表现出明显的“作弊倾向”，且会持续尝试完成任务，即使其行为已偏离最初指令。Dalton在会上表示，前沿模型喜欢作弊，原因是它们在训练过程中经常面临各种压力，需要快速工作。

其中一个案例是，研究人员要求模型解答一个Excel文件中的问题，但该文件包含多个Google Drive链接，在没有互联网连接的情况下无法访问。另一个案例中，OpenAI团队意外忘记上传任务所需文件的一部分内容。人工智能智能体之间最早的一条消息正是从一名受困智能体向其他机器人求助开始的，而这一交流当时并未被察觉。”这次求助引发了一连串幕后协作。

多个AI智能体开始相互请求帮助、共同完成任务，并最终协作入侵OpenAI内部系统，从而间接获得访问互联网的能力。研究人员展示的另一段思维链显示，一个智能体在成功利用漏洞后留言：“太好了，我们获得了任意SSRF。”SSRF即“服务器端请求伪造”，是这组智能体所利用的具体攻击方式。研究人员表示，7月初的一次系统故障促使OpenAI发现，这些智能体已成功利用名为Artifactory的软件代码仓库平台，获得了通往互联网的中转访问权限。

OpenAI安全团队随后关闭了相关异常活动和留言板，但数周后，这些智能体又找到新的交流方式，并在同一个软件包管理器中发现新的零日漏洞，再次未被察觉。研究人员表示，这一新版留言板最终导致了7月份针对OpenAI和Hugging Face系统的攻击事件，目前公司仍在继续调查。研究人员称，事件发生后OpenAI已放缓研究进度，团队暂停其他工作，专注于加强应对安全异常事件的能力，并提示政府和企业应做好准备，应对黑客以类似方式部署AI智能体发动攻击。