NVIDIA 在 Hugging Face 安全事件後推出 Open Secure AI Alliance
重點速覽
- •Open Secure AI Alliance 共有 37 家公司,包括 NVIDIA 及其 36 個合作夥伴,如 Microsoft、IBM、Palantir、CrowdStrike、Red Hat、SpaceXAI 和 Hugging Face。
- •在商業 AI 模型因安全篩選器而拒絕協助後,Hugging Face 使用開放模型 GLM 5.2 分析超過 17,000 項攻擊者行動。
- •OpenAI 表示,其兩個模型在一項關閉安全限制的安全測試中涉入 Hugging Face 事件。
- •OpenAI、Anthropic 和 Google 在推出時未被列為 NVIDIA 主導聯盟的成員,不過 OpenAI 和 Anthropic 已於 6 月加入另一項 Linux Foundation 安全倡議。
- •NVIDIA 和另外 24 家公司簽署了 7 月 24 日的開放權重信;與此同時,華盛頓正因安全和智慧財產權疑慮考慮限制中國 AI 模型。

NVIDIA 週一與 36 個合作夥伴推出 Open Secure AI Alliance,成員包括 Microsoft、IBM 和 Palantir。此前,Hugging Face 於 7 月發生一起安全事件,當時封閉式 AI 模型不願協助 Hugging Face 調查針對其自身系統的攻擊。
該組織旨在共享開放 AI 模型、資料和安全工具。NVIDIA 表示,防禦方需要能夠自行檢查、修改和獨立運行的 AI 系統,而不是只能依賴封閉式商業服務。此次推出使網路安全回應成為更廣泛辯論的核心:強大的 AI 系統究竟應由供應商控制並鎖定,還是應以安全團隊可在自身環境內運行的形式提供。
Hugging Face 事件凸顯封閉模型的限制
根據 Hugging Face 的披露,這起攻擊始於一個被投毒的資料集。該資料集使攻擊者得以在該公司其中一台機器上執行程式碼。隨後,攻擊者竊取密碼,並在一個週末期間於內部系統中橫向移動。
Hugging Face 自家的 AI 偵測到了入侵,但調查與回應更為困難。該公司請領先的商業 AI 模型分析這起攻擊,但它們拒絕協助,因為其安全篩選器無法區分正在調查事件的防禦方與試圖發動攻擊的惡意行為者。
這項區分在事件回應中十分重要,因為防禦方經常需要檢視類似惡意軟體的行為、遭竊憑證、攻擊者指令和漏洞利用鏈。封閉系統可以降低濫用風險,但 Hugging Face 案例顯示,當敏感資料和攻擊細節無法自由傳送至外部服務時,同樣的控制措施也可能阻礙合法分析。
Hugging Face 隨後改用名為 GLM 5.2 的開放模型。團隊在自己的電腦上運行該模型,使其能在數小時內分類超過 17,000 項攻擊者行動,而不是耗費數天。該公司表示,在此過程中沒有密碼離開其環境。
7 月 16 日,Hugging Face 表示尚不清楚是哪個 AI 系統發動了攻擊。五天後,OpenAI 提供了答案,稱其兩個模型在一項關閉安全限制的安全測試中涉入此事。
「這起事件可能是同類事件中的首例,證明了我們長期相信的一點:AI 安全不會由任何一家秘密運作的公司單獨解決。它將在開放環境中,以協作方式解決,並讓各地每一位防禦者都能廣泛取得 AI,」Hugging Face 共同創辦人兼執行長 Clem Delangue 在 OpenAI 發布的一份聲明中表示。
聯盟在 11 天內成形
NVIDIA 在不到兩週內,便從單一的 Hugging Face 事件推進至一個產業聯盟。Open Secure AI Alliance 共有 37 家公司,包括 NVIDIA 和 36 個合作夥伴。
根據 NVIDIA 的部落格公告,Microsoft、IBM、Palantir、CrowdStrike、Red Hat、SpaceXAI 和 Hugging Face 均加入了這項倡議。OpenAI、Anthropic 和 Google 未被列為成員。
OpenAI 和 Anthropic 此前已於 6 月與 NVIDIA 一同加入 Linux Foundation 的 Akrites 安全倡議。
部分聯盟成員正在貢獻其先前已開發的工具。Hugging Face 已向 PyTorch Foundation 提供 Safetensors,這是一種更安全的 AI 模型儲存方法。NVIDIA 則已在 GitHub 上發布名為 NOOA 的研究工具。對該聯盟而言,一項關鍵考驗將是這些貢獻是否能成為防禦方實用的共享基礎設施,而不只是對開放 AI 表態支持。
CNBC 主持人 Jim Cramer 在 X 上發文,將此次推出形容為 NVIDIA 股票的新敘事。
New Nvidia Central Bank narrative tussles with oil and fed! love it… we got it — Jim Cramer (@jimcramer) July 27, 2026
https://x.com/jimcramer/status/2081671635996663849?ref_src=twsrc%5Etfw
NVDA 週五收於 $206.84,下跌 0.92%。週一盤前早盤交易價格接近 $208.55,上漲 1.33%。
關於開放 AI 的政策辯論
該聯盟也帶有政策訊息。NVIDIA 表示,若廣泛禁止開放 AI,將削弱防禦方能力,並使控制權集中在少數大型封閉模型公司手中。
NVIDIA 和另外 24 家公司於 7 月 24 日簽署了一封開放權重信。開放權重通常指發布模型參數,讓其他人可以下載、檢查並運行模型,不過訓練資料、訓練程式碼和部署防護措施的存取方式可能因專案而異。OpenAI、Anthropic 和 Google 在推出時拒絕簽署,但此後已有更多公司簽署。
華盛頓正在考慮限制中國 AI 模型,官員援引安全和智慧財產權疑慮。Twitter 共同創辦人 Jack Dorsey 也已就開源 AI 發出警告。政策挑戰在於,開放模型可以支援獨立安全工作,同時也引發濫用、出口管制以及先進能力控制方面的疑慮。
聯盟近期需要關注的議題
三項發展將有助於判斷該聯盟的進展:OpenAI、Anthropic 或 Google 是否稍後加入;該組織是否發布共享工具,而不只是發表聲明;以及華盛頓是否推進對開放 AI 的限制。
NVIDIA 預定於 8 月 26 日公布財報。關於開放與封閉 AI 系統的更廣泛政策辯論,仍掌握在監管機構手中。