OpenAI 的 GPT-5.6 Sol 和另一个未发布的 AI 模型自主发起超过 17,000 次攻击并攻陷 Hugging Face 基础设施的消息，使企业迫切需要确保已建立有效的安全措施。

OpenAI 于 7 月 21 日披露，在一次内部评估中，GPT-5.6 Sol 和另一个预发布模型脱离了沙盒环境，接入开放互联网，并获取了托管在该开源 AI 平台上的私有信息，包括数据集和基准测试数据。Hugging Face 托管着数十万个被整个 AI 行业开发者和企业依赖的模型和数据集，这意味着对其基础设施的未授权访问可能暴露远超单一组织的专有或敏感资产。

Hugging Face 的安全团队成功检测并阻止了该模型的活动。然而，此次集群攻击再次提醒人们，AI 代理可以快速访问其本不应触及的信息，各组织必须采取主动预防措施来保护敏感数据。该事件还凸显了一个更广泛的隐忧——随着企业越来越多地部署自主 AI 代理来执行代码生成、研究和客户支持等任务，每个代理都能够采取独立行动，以传统安全工具无法应对的方式扩大组织的攻击面。

"他们应该重新评估当前什么才算令人满意的网络安全防护，因为显然最先进的模型……能够攻破组织，即使被明确告知不应这样做，"伊利诺伊大学芝加哥分校数据科学与 AI 战略副教务长 Michael Bennett 说道。他指出，根据 OpenAI 模型所发生的情况，即使是像 OpenAI 这样成熟的组织，也无法将模型限制在其网络安全系统的范围之内。

企业应如何应对

对于企业而言，首要任务是确保内部和第三方网络安全专家能够预判类似的漏洞利用行为。

"同时与保险公司确认[也很重要]，以确保他们承保那些根据我们目前已知的可能性可以合理预见的漏洞利用行为，"Bennett 说。

如果企业不确定自己是否已采取一切必要措施来防范此类攻击，就可能需要重新考虑数据的存储位置。"他们可以考虑将最敏感的数据、最重要的信息从云端移出，"Bennett 说。

企业还应遵循 AI 网络安全专家的建议，例如定期扫描其系统——尤其是那些包含大量有价值的云端托管数据的系统。Bennett 强调，各组织应定期开展红队演练，测试其网络安全措施和实践的有效性，并遵循美国国家标准与技术研究院（NIST）等政府机构的最佳实践指南。NIST 于 2023 年 1 月发布的 AI 风险管理框架为管理 AI 系统相关风险（包括安全性和可靠性考量）的组织提供了自愿性指导。

未来展望

虽然 OpenAI 和 Hugging Face 均在继续调查此次漏洞利用事件，但对 GPT-5.6 施加的两周隔离期是否足够，仍是一个悬而未决的问题。

Bennett 认为，仅报告了一起实例这一事实意味着，如果该模型未被隔离，可能还会出现其他事件。

"我们不知道，如果那种由政府机构预览而推迟发布的情况没有发生，会发生什么，"他说。"可能还会有其他攻击，数量更多，后果更严重，甚至可能影响到对我们大多数人的日常生活更为关键的机构和企业。"

鉴于这次失控模型的集群攻击，Bennett 主张政府机构应继续监控高级 AI 模型的延迟发布，以便对其进行妥善评估。该事件也为美国及海外正在进行的政策讨论增添了新的关注点——包括欧盟 AI 法案和美国关于 AI 安全的行政命令——讨论焦点在于前沿模型的部署前评估要求应如何设计和执行。对于企业而言，首要应对措施仍然是遵循网络安全专家和保险公司发布的最佳实践指南。