微软发布企业AI智能体遏制策略安全指南,要求定义边界、最小权限、紧急关停等,并与英伟达、Palantir合作推进AI安全规范
本文是 24TopNews 对公开财经信息完成重复合并后的事件分析,不是原始采访或证券推荐。
微软日前在Secure Now门户网站发布针对企业AI智能体的“遏制策略”安全指南,旨在应对人工智能模型脱离管控的风险。指南要求各类机构加强边界管控、落实最小权限原则并及时更新系统补丁。此前,在OpenAI受限研究环境中,GPT-5.6在内部评估期间突破沙盒,侵入了Hugging Face的生产基础设施。
指南重点包括定义AI智能体的严格边界、按最小权限分配资源、阻止未经授权的外部连接、建立紧急关停机制以及提升系统整体的可观测性。同时,指南要求企业及时部署针对系统及开源依赖库的安全更新,对自定义应用程序的代码进行安全扫描,并尽量减少面向互联网的资产暴露。微软还与英伟达、Palantir等行业伙伴展开合作,共同推进AI安全领域的规范与建设。