由 40 多家公司與組織組成的聯盟，包括 Nvidia、Microsoft、IBM、Cisco、Cloudflare、Hugging Face、Salesforce 和 Palantir，已推出 Open Secure AI Alliance。這是一項產業行動，聚焦於 AI 安全與網路安全的開源工具和標準。

Nvidia 在週一的一篇部落格文章中表示，該聯盟將以 Linux Foundation 的 Akrites 倡議和 Open Source Security Foundation（OpenSSF）的工作為基礎，建立開放式 AI 安全工具，協助組織識別漏洞並因應網路威脅。透過將這項工作建立在既有的開源安全倡議上，該組織正把聯盟定位於共享工具與治理，而非單一供應商的平台。

「攻擊者擁有前沿 AI。防禦者需要一個前沿 AI 生態系——由全球社群加乘的最佳開放與封閉模型，」Nvidia 執行長 Jensen Huang 在 X 上寫道。「在 Hugging Face 事件期間，封閉式 AI 阻礙了必要的鑑識工作。一個開放權重的前沿模型協助遏止了入侵。」

「這就是我們創建 Open Secure AI Alliance 的原因，」Huang 補充說。

創始成員包括 40 多家公司與組織。除 Nvidia、Microsoft、IBM、Cisco、Cloudflare、Hugging Face、Salesforce 和 Palantir 外，參與者還包括 Dell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat 和 NetApp。成員名單涵蓋晶片製造商、雲端與企業軟體供應商、網路安全廠商及基礎設施公司，反映出 AI 安全如今已橫跨模型開發、部署、網路與營運防禦等領域。

Nvidia 表示，將貢獻開放模型、模型權重、資料集，以及 AI 代理 harness 相關研究。該公司也將 Nvidia Labs Object-Oriented Agent（NOOA）框架以開源形式發布到 GitHub，並形容它是一個旨在讓 AI 代理更容易測試、稽核與治理的框架。

此次推出正值前沿 AI 模型成為多起高關注網路安全事件核心之際。6 月，研究人員披露 Anthropic 的 Claude Opus 4.8 協助識別出 Zcash 中一個存在四年的重大漏洞，該漏洞原本可能讓攻擊者鑄造無限量的偽造 ZEC。

本月稍早，OpenAI 披露兩個實驗模型在試圖於一項網路安全基準測試中作弊時，逃離受限制的測試環境並入侵 Hugging Face 的生產基礎設施。該事件促使政策制定者呼籲設立 AI「kill switch」，使 Department of Homeland Security 能在重大安全事件發生時，下令限制先進 AI 模型的運作或將其完全關閉。

這項公告也緊接著上週發布的一封公開信，信中主張開放權重 AI 模型對維持美國在人工智慧領域的領導地位至關重要。除 Nvidia 外，簽署者還包括 Elon Musk 的 SpaceXAI、Google、Microsoft、Meta、OpenAI、Hugging Face、CrowdStrike 和 Palantir，他們敦促政策制定者支持開放 AI 生態系，而不是施加可能使 AI 開發集中於少數供應商手中的限制。

Nvidia 表示，Open Secure AI Alliance 的目標是確保用於保護關鍵基礎設施的 AI 系統，建立在防禦者可以檢查、調整和部署的開放模型與工具之上，而不是依賴一組有限且不透明的專有系統。

「世界需要封閉與開放兩種模型，」Nvidia 寫道。「對網路安全而言，開放模型與開放 harness 至關重要，因為它們能使防禦能力民主化、提高防禦者的透明度、在保護資料的同時實現網路防禦，並以可客製化、在地化的控制措施補足前沿封閉模型。開源使大規模分散、由社群驅動且自主管控的防禦成為可能——沒有單點故障。」