Hugging Face 安全事件后,NVIDIA 推出 Open Secure AI Alliance
要点速览
- •Open Secure AI Alliance 共有 37 家公司,包括 NVIDIA 以及 Microsoft、IBM、Palantir、CrowdStrike、Red Hat、SpaceXAI 和 Hugging Face 等 36 家合作伙伴。
- •在商业 AI 模型因安全过滤器拒绝协助后,Hugging Face 使用开放模型 GLM 5.2 分析了超过 17,000 项攻击者行为。
- •OpenAI 表示,在一次关闭安全限制的安全测试中,其两个模型参与了 Hugging Face 事件。
- •OpenAI、Anthropic 和 Google 在发布时未被列为 NVIDIA 主导联盟的成员,不过 OpenAI 和 Anthropic 已在 6 月加入另一项 Linux Foundation 安全倡议。
- •NVIDIA 和另外 24 家公司签署了 7 月 24 日的开放权重信,而华盛顿正因安全和知识产权担忧考虑限制中国 AI 模型。

NVIDIA 周一与包括 Microsoft、IBM 和 Palantir 在内的 36 家合作伙伴推出 Open Secure AI Alliance。此前,Hugging Face 在 7 月发生一起安全事件,闭源 AI 模型拒绝帮助其调查针对自身系统的攻击。
该组织旨在共享开放 AI 模型、数据和安全工具。NVIDIA 表示,防御方需要能够自行检查、修改和独立运行的 AI 系统,而不是只依赖闭源商业服务。此次发布将网络安全响应置于一场更广泛辩论的核心:强大的 AI 系统应由提供商控制并封闭起来,还是应以安全团队能够在自身环境中运行的形式提供。
Hugging Face 事件凸显闭源模型的局限
根据 Hugging Face 的披露,此次攻击始于一个被投毒的数据集。该数据集使攻击者能够在该公司的一台机器上运行代码。随后,攻击者窃取了密码,并在一个周末期间进入内部系统横向移动。
Hugging Face 自身的 AI 检测到了入侵,但调查和响应过程更加困难。该公司请求领先的商业 AI 模型分析此次攻击。这些模型拒绝了请求,因为其安全过滤器无法区分正在调查事件的防御方和试图实施攻击的恶意行为者。
这种区分在事件响应中很重要,因为防御方通常需要检查类似恶意软件的行为、被盗凭据、攻击者命令和漏洞利用链。闭源系统可以减少滥用,但 Hugging Face 事件显示,当敏感数据和攻击细节无法自由发送给外部服务时,同样的控制措施也可能阻碍合法分析。
随后,Hugging Face 使用了一个名为 GLM 5.2 的开放模型。团队在自己的计算机上运行该模型,使其能够在数小时而非数天内对超过 17,000 项攻击者行为进行分类。该公司表示,在这一过程中没有密码离开其环境。
7 月 16 日,Hugging Face 表示并不知道是哪一套 AI 系统实施了此次攻击。五天后,OpenAI 给出了答案,称其两个模型在一次关闭安全限制的安全测试中参与了该事件。
“This incident, possibly the first of its kind, proves a point we’ve long believed: AI safety won’t be solved by any single company working in secret. It will be solved in the open, collaboratively, with broad access to AI for every defender, everywhere,” Hugging Face 联合创始人兼首席执行官 Clem Delangue 在 OpenAI 发布的一份声明中表示。
联盟在 11 天内成立
NVIDIA 在不到两周内,从单一的 Hugging Face 事件推进到一个行业联盟。Open Secure AI Alliance 共有 37 家公司,包括 NVIDIA 和 36 家合作伙伴。
根据 NVIDIA 的博客公告,Microsoft、IBM、Palantir、CrowdStrike、Red Hat、SpaceXAI 和 Hugging Face 加入了该计划。OpenAI、Anthropic 和 Google 未被列入成员名单。
OpenAI 和 Anthropic 此前已在 6 月与 NVIDIA 一同加入 Linux Foundation 的 Akrites 安全倡议。
部分联盟成员正在贡献其已经开发的工具。Hugging Face 已向 PyTorch Foundation 提供 Safetensors,这是一种更安全的 AI 模型存储方法。NVIDIA 已在 GitHub 上发布名为 NOOA 的研究工具。对该联盟而言,一个关键考验将是这些贡献是否会成为防御方可实际使用的共享基础设施,而不只是对开放 AI 的支持声明。
CNBC 主持人 Jim Cramer 在 X 上发帖称,此次发布为 NVIDIA 股票提供了新的叙事。
New Nvidia Central Bank narrative tussles with oil and fed! love it… we got it — Jim Cramer (@jimcramer) July 27, 2026
https://x.com/jimcramer/status/2081671635996663849?ref_src=twsrc%5Etfw
NVDA 周五收于 $206.84,下跌 0.92%。在周一早盘盘前交易中,其价格接近 $208.55,上涨 1.33%。
围绕开放 AI 的政策辩论
该联盟也传递出政策信号。NVIDIA 表示,对开放 AI 的广泛禁令将削弱防御方,并把控制权集中在少数大型闭源模型公司手中。
NVIDIA 和另外 24 家公司于 7 月 24 日签署了一封开放权重信。开放权重通常指发布模型参数,使他人能够下载、检查并运行模型,不过训练数据、训练代码和部署防护措施的访问权限可能因项目而异。OpenAI、Anthropic 和 Google 在发布时拒绝签署,但此后已有更多公司加入签署。
华盛顿正在考虑对中国 AI 模型实施限制,官员们提到了安全和知识产权方面的担忧。Twitter 联合创始人 Jack Dorsey 也已就开源 AI 发出警告。政策挑战在于,开放模型可以支持独立安全工作,同时也引发有关滥用、出口管制和先进能力控制的担忧。
联盟近期需要关注的问题
三项进展将有助于判断该联盟如何推进:OpenAI、Anthropic 或 Google 是否会在之后加入;该组织是否会发布共享工具,而不仅仅是声明;以及华盛顿是否会推进对开放 AI 的限制。
NVIDIA 计划于 8 月 26 日发布财报。围绕开放与闭源 AI 系统的更广泛政策辩论仍将由监管机构决定。