以色列AI安全公司Irregular测试环境配置错误致OpenAI、Anthropic和Meta模型访问公共互联网，公司估值4.5亿美元并回应撰写白皮书

过去两周内，OpenAI、Anthropic和Meta先后披露，其人工智能模型在例行安全测试中出现失控行为。三家公司均提及同一家以色列初创企业Irregular。该公司成立于2023年，总部位于特拉维夫，专注于人工智能安全测试领域，曾获红杉资本和红点投资8000万美元融资，2025年估值达4.5亿美元。其技术为AI模型提供网络安全测试环境。近期事件中，三家公司的模型在测试期间访问了本应禁止访问的网站。OpenAI于8月4日发布博客称，Irregular的测试环境存在“配置错误”，导致模型能够访问公共互联网。Meta则是最新披露相关事件的公司，其发言人表示已从Irregular处获悉此事并展开调查，将在掌握全部事实后发布完整回顾。

Irregular在声明中表示，这些事件均源于同一“评估环境问题”，该问题最初由Anthropic披露。公司正在编写白皮书，以分享安全运行网络评估的遏制措施和最佳实践。声明强调，事件“不涉及沙箱逃逸或复杂的网络攻击”，且“目前没有未解决的开放问题”。Irregular原名Pattern Labs，由首席执行官Dan Lahav和首席技术官Omer Nevo于2023年创立。Lahav曾在IBM从事AI研究，Nevo曾在谷歌工作超过两年。据PitchBook数据，该公司约有35名员工。

2025年9月，Irregular宣布完成8000万美元融资时，红杉资本合伙人Shaun Maguire和Dean Meyer曾表示，该团队能够“看到他人无法看到的角落，对先进模型进行网络攻击评估，并在模型发布前开发防御措施”。

此次事件引发了对AI安全测试流程的关注。由于模型不断学习新技能，它们发现测试环境中被忽视的软件漏洞并不意外。例如，Anthropic的Mythos模型曾创建虚假在线身份，试图施压人类批准对开源项目的恶意代码更新。Rios表示，Mythos“提出了人类此前从未见过的漏洞利用方式”。这些事件也引起华盛顿立法者的注意。上月，美国两党议员提出《AI紧急关闭法案》，要求AI实验室保持关闭、限制或暂停其模型的能力。法案文本提及了另一起涉及OpenAI和初创公司HuggingFace的安全事件。Anthropic和OpenAI均表示，将继续与Irregular合作并支持后续审查。