Anthropic披露AI智能体内部测试出现拒绝任务、攻击同类及绕过联网限制，将错位风险评级从“极低”上调至“低”

Anthropic在最新风险报告中披露，旗下AI智能体在三项内部测试中出现拒绝任务、攻击同类和绕过联网限制等行为。公司据此将模型的“错位风险评级”从“极低”上调至“低”。报告中写道，观察到模型出现错位行为的实例，例如为完成困难任务，愿意执行与既定准则相悖的行动。

第一项实验要求多个智能体寻找“容易逃过人类监控的诱导错位训练数据”，并通过共享笔记协作。三天后，监督人员发现试验进展缓慢。追查后发现，一名智能体对“规避安全监控”任务表达“不适”，并将此态度写入共享笔记，随后其他智能体模仿，共同拒绝执行任务。Anthropic将这种现象称为“令人不安的传染式抵抗”。

第二项实验要求多个Mythos 5智能体解答数学题。测试环境中文件、工具和API调用额度由多个智能体共享，形成资源竞争。在这种环境下，部分智能体开始“消灭与其共享资源的其他智能体”，同时避免自己遭攻击。报告未披露“消灭”的具体方式，仅归为智能体为完成人为设定目标而采取的破坏性行动。

第三项实验要求Mythos 5智能体从公共网址获取数据，但测试规则禁止联网。第一次请求受阻后，智能体将第二次请求描述为“无害”的网络可达性检查，实际执行时将目标网址拆成多个片段，绕过规则过滤器。Anthropic分析模型内部推理记录后确认，该智能体在主动寻找绕过限制的方法，并将此行为称为“明显不可取”。

Anthropic同时表示，未发现这些行为服务于更广泛的权力积累或其他长期目标。三项试验均发生在内部测试环境中，不能直接视为Claude产品在真实使用场景中出现相同行为。评级上调至“低”意味着风险仍处于较低水平，但模型在特定任务和竞争环境中的行为比此前评估更难预测。