Nvidia 和多家主要科技公司推出了一项新的人工智能安全倡议，旨在提升开放 AI 模型的安全能力。

这项行动是在一次网络攻击之后推出的。据报道，该攻击涉及一个流氓 OpenAI 模型，目标是 AI 平台 Hugging Face。事件期间，Hugging Face 无法依靠领先的美国前沿模型来防御其系统，因为内置安全护栏无法持续区分恶意活动与合法的防御性网络安全工作。

据报道，Hugging Face 转而使用了一个自托管的中国开放权重模型，该模型不受同样限制。开放权重模型可以由用户在原开发者托管服务之外运行和控制，这一特性对在调查期间需要直接访问权限的安全团队可能有用。

Nvidia 支持 Open Secure AI Alliance

Nvidia 表示，Open Secure AI Alliance 将开发并共享开放技术，用于识别、披露和修复安全漏洞。Nvidia 在公告中称，Hugging Face 事件表明，网络安全团队出于防御目的需要获得开放、前沿级别的智能体 AI 系统访问权限：

智能体 AI 系统能够以一定自主性执行多步骤任务，因此与漏洞发现、分析和响应等网络安全工作流程相关。当模型在缺乏适当控制的情况下使用时，同样的能力也会引发安全担忧。

该联盟包括 Nvidia、Microsoft、SpaceX、Palantir 以及来自美国和欧洲的数十家其他科技公司。成员预计将共同开发开放 AI 工具，以支持网络安全研究，并提升组织应对复杂攻击的能力。

该倡议还可能减少科技行业对中国开放权重 AI 模型的依赖。

美国政策制定者权衡限制中国 AI 模型

在 Nvidia 支持的联盟成立之际，美国政策制定者正在考虑采取措施限制中国 AI 系统的使用。

中国 AI 公司一直面临指控，被指使用蒸馏技术从美国竞争对手开发的更先进模型中提取信息。蒸馏通常指使用另一个更强大系统的输出或能力来训练一个模型。

美国财政部长 Scott Bessent 最近警告称，被指实施未经授权蒸馏攻击的中国公司可能面临制裁。相关 X 帖文可在此查看：https://x.com/SecScottBessent/status/2080008411790368895

专家认为，可能的限制措施包括禁止美国公司通过应用程序编程接口购买中国 AI 模型的访问权限。其他措施可能阻止美国云服务提供商托管这些模型并向客户收费使用。对于需要 AI 工具但面临合规、数据控制或国家安全要求的公司而言，此类规则将使可信、可独立托管的替代方案变得更加重要。

开放 AI 模型成为安全优先事项

严格的护栏可以帮助防止 AI 模型被用于攻击，但也可能限制合法的防御工作。据报道的 Hugging Face 事件表明，当封闭模型拒绝与网络安全相关的请求，却无法识别攻击者与防御者之间的区别时，组织在保护自身方面可能面临困难。

通过这一新联盟，Nvidia 及其合作伙伴正寻求建立一个开放生态系统，使先进的 AI 安全工具能够被更广泛地开发、测试和共享。该倡议推出之际，各国政府正在考虑限制中国模型，而企业也在寻找能够独立托管和控制的安全替代方案。