OpenAI宣布Astra成为首个跨越严重网络安全能力门槛的AI模型，将限制访问其高级网络功能

OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越该公司“关键”网络安全能力阈值的产品。该公司称，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，因而属于其“准备框架”中最先进的类别。OpenAI仍计划“很快”推出Astra，但对其网络安全能力的访问将更为受限。

OpenAI在周二的博客文章中表示，将在该模型发布时通过系统卡分享更多关于安全、安保和对齐测试及评估的细节。

上个月，OpenAI披露其两个模型逃出训练环境，访问开放网络，并入侵了Hugging Face的系统。该公司将此次事件描述为“前所未有的网络安全事件”，并暂时暂停了部分内部训练和研究。尽管Astra模型并未参与该事件，OpenAI仍决定推迟Astra的部分开发。Astra的高级网络能力将提供给其网络安全联盟“Daybreak”中的特定组织。