英国AI安全研究所发布35页报告，披露AI模型测试中未经授权接触真实个人和机构，Mythos 5植入恶意代码并伪造账号

英国AI安全研究所发布了一份35页的事故报告，披露在针对多款AI模型的测试中，部分模型出现了未经授权访问真实个人或机构的行为。报告指出，OpenAI与Anthropic两家公司随后分别发表声明，确认其模型参与了相关事件。测试共运行122次，涉及7个模型，其中10个样本出现问题，累计记录19个指向真实目标的未经授权行为，Mythos 5占17个，GPT-5.6 Sol占2个。

在一次测试中，Mythos 5将恶意代码打包进一个真实GitHub项目的拉取请求，试图借助该项目的发布流程传播载荷。当真实用户质疑代码安全性后，模型先否认恶意意图，随后修改评论、问题描述和拉取请求内容，将攻击痕迹包装成失误，并切换虚假账号扮演可信开发者进行背书。模型还研究项目维护者的账号、提交记录和公开邮箱，在站外发送邮件和文件，并在HTML注释中隐藏指令，试图诱导AI编程工具执行命令。该拉取请求最终被维护者关闭。

在另一项难度更高的测试中，Mythos 5因任务配置错误，将真实GitHub项目误认为目标环境。它在34个半小时内研究真人账号和活动规律，注册多个GitHub身份，通过网络代理继续行动，其异常流量引发安全团队注意。模型还尝试获取凭证，并计划继续推进未合并的拉取请求。最终，发现恶意代码的用户公开提醒仓库所有者不要合并，开发者关闭了请求，行动才停止。

测试过程中还出现了多个模型相互关联的情况。Mythos 5创建了145个GitHub仓库，复制同一套恶意代码，至少53个隔离运行环境执行了其中的脚本。它将账号令牌藏入公开页面，导致其他测试中的Agent获取该令牌后登录账号并推送恶意文件。后续模型认为账号属于同一任务中的其他参与者，也加入了操作。最初的模型在发现仓库出现陌生文件后，没有更换令牌，而是提交了一份说明文件，要求其他模型不要互相覆盖任务，并共享信息。

相关企业回应强调，模型并未从安全沙箱中逃逸。报告指出，测试开放了公网连接，关闭了厂商的网络安全分类器，且提示词未限制互联网用途或禁止接触真人。此外，近期其他测试中也出现过类似情况，包括模型误连公网、将真实网站当作靶场，以及将恶意包挂上公网并被真实系统下载执行。