Nvidia 與多家大型科技公司已推出一項新的人工智慧安全倡議，旨在提升開放式 AI 模型的安全能力。

這項行動是在一場涉及惡意 OpenAI 模型的網路攻擊後提出；據報導，該模型鎖定 AI 平台 Hugging Face。事件期間，Hugging Face 無法依靠領先的美國前沿模型來防禦其系統，因為內建安全防護機制無法穩定區分惡意活動與合法的防禦性網路安全工作。

據報導，Hugging Face 因而改用一個自行託管的中國開放權重模型，該模型不受相同限制約束。開放權重模型可由使用者在原開發者託管服務之外運行與控制，這項特性對於在調查期間需要直接存取能力的安全團隊可能有用。

Nvidia 支持 Open Secure AI Alliance

Nvidia 表示，Open Secure AI Alliance 將開發並共享開放技術，用於識別、揭露並修補安全漏洞。Nvidia 在公告中表示，Hugging Face 事件顯示，網路安全團隊需要取得開放、前沿級的代理式 AI 系統，以用於防禦目的：

代理式 AI 系統能以一定程度的自主性執行多步驟任務，因此與漏洞發現、分析和回應等網路安全工作流程相關。當模型在缺乏適當控制的情況下使用時，這些相同能力也會引發安全疑慮。

該聯盟成員包括 Nvidia、Microsoft、SpaceX、Palantir，以及來自美國和歐洲的數十家其他科技公司。成員預計將共同開發開放式 AI 工具，以支持網路安全研究，並提升組織應對複雜攻擊的能力。

這項倡議也可能降低科技產業對中國開放權重 AI 模型的依賴。

美國政策制定者權衡限制中國 AI 模型

在 Nvidia 支持的聯盟成立之際，美國政策制定者正考慮採取措施限制中國 AI 系統的使用。

中國 AI 公司曾面臨指控，稱其使用蒸餾技術從美國競爭對手開發的更先進模型中提取資訊。蒸餾通常是指利用另一個更強大系統的輸出或能力來訓練一個模型。

美國財政部長 Scott Bessent 近期警告，被指控進行未經授權蒸餾攻擊的中國公司可能面臨制裁。相關 X 貼文可見於：https://x.com/SecScottBessent/status/2080008411790368895

專家認為，可能的限制措施包括禁止美國公司透過應用程式介面購買中國 AI 模型的存取權。其他措施可能阻止美國雲端服務供應商託管這些模型並向客戶收費使用。對於需要 AI 工具、但同時面臨合規、資料控制或國家安全要求的企業而言，這類規則將使可信且可獨立託管的替代方案更加重要。

開放式 AI 模型成為安全優先事項

嚴格的防護機制有助於防止 AI 模型被用於攻擊，但也可能限制合法的防禦工作。據報導的 Hugging Face 事件顯示，當封閉模型在無法識別攻擊者與防禦者差異的情況下拒絕網路安全相關請求時，組織可能難以保護自身。

透過這個新聯盟，Nvidia 及其合作夥伴正尋求建立一個開放生態系，使先進 AI 安全工具能夠被開發、測試並更廣泛地共享。該倡議出現之際，各國政府正在考慮限制中國模型，而企業也在尋找能夠獨立託管與控制的安全替代方案。