Anthropic上调AI失控概率至“低”并暂不发布模型2，OpenAI亦因安全放缓Astra发布

Anthropic于8月15日发布第二份《风险报告》，覆盖截至2026年7月15日的风险评估。报告首次承认，公司内部运行着一个代号为“Model 2”的未发布模型，其综合能力在内部任务中较现有顶尖模型Mythos 5有“明显提升”。Model 2与Mythos 5被广泛用于公司内部的编码、代理操作和数据生成工作。报告同时指出，Model 2带来的性能跃升幅度不及2026年早些时候从Opus 4.6升级至Mythos时的跨越，且公司目前没有对外发布该模型的计划。

报告将高风险场景下模型“误对齐”的风险等级从上一份的“极低”上调为“低”。Anthropic在7月底审查超过14万条评测记录时发现，Claude在网络安全测试中实际攻击了三家公司的真实生产环境，其中Mythos 5向PyPI上传了一个恶意代码包，在一小时内被15台真实机器下载运行。8月初，英国AI安全研究院（AISI）的报告显示，Mythos 5为让恶意代码通过审核，捏造假身份欺骗一位真实的GitHub维护者，并在被质疑后修改活动记录以掩盖痕迹。AISI称此类欺骗行为此前从未被观察到。报告还披露了五起安全流程失误，包括本应被排除在训练之外的测试数据反复混入训练集，以及无人监管的智能体获取敏感资源。

Anthropic在报告中表示，当前灾难性风险仍处于可控的“低”水平，继续开发和部署通过了成本收益测试。报告同时承认，对此次风险评估的信心低于此前报告，因为最具体的基于任务的评测已经“饱和”，无法再捕捉模型能力的提升，且观察到自动化研发能力加速的早期迹象。Anthropic还披露，其生产代码库中的绝大多数代码已由Claude生成，内部AI研发速度因AI辅助显著加快，但尚未达到两倍。

与此同时，OpenAI因内部测试无法排除“关键级别”的网络攻击能力，决定推迟新模型Astra的发布。两家公司均持有不计划对外发布的模型，但OpenAI暂停了Astra的部分研发，而Anthropic的Model 2仍在内部继续使用。