開源軟體是全球經濟的重要支柱。它透過讓技術對專家社群保持可及且可觀測，支撐雲端運算、金融服務、製造業、電信、政府與網際網路服務。

資安是開源軟體三大受益領域之一。Open Secure AI Alliance 建立在 Linux Foundation 的 Akrites 倡議與 OpenSSF 社群工作的基礎上，將運用開放技術來修補並揭露漏洞。隨著 AI 系統日益嵌入軟體與資安作業，問題不再只是這些工具有多強大，而是防禦者是否能足夠快速地檢視、測試並調整它們，以跟上真實世界的威脅。

正如開源為軟體建立了共同基礎，美國及其合作夥伴如今在 AI 安全上也面臨抉擇：保護基礎設施的防線，是要放在少數不透明的系統之中，還是建立在任何防禦者都能研究、調整並部署的開放模型、harnesses 與工具之上。

世界需要封閉與開放模型並存。就資安而言，開放模型與開放 harnesses 是不可或缺的，因為它們能讓防禦能力民主化、提高防禦者的透明度、在保護資料的同時支援網路防禦，並以可自訂、可在地化的控制補充前沿封閉模型。開源則能實現高度分散、由社群驅動且可自我掌控的防禦，沒有單一故障點。

開放模型如同任何強大技術一樣，可能遭到濫用——包括企圖削弱防護或將能力重新用於網路攻擊——但這些風險並非開放系統獨有，且無論先進 AI 部署於何處，都必須加以管理。

近期 Hugging Face 的資安事件提供了明確提醒：網路防禦者需要開放、前沿的 agentic 系統來自我防衛。當無法區分攻擊者與防禦者的封閉式 AI 工具阻擋了必要的鑑識分析時，Hugging Face 在自有基礎架構上運行開放權重的 GLM 5.2 模型，分析超過 17,000 個動作並控制入侵。

那起事件顯示了一個實際真相：當防禦者無法在自有基礎架構上檢視、調整並執行先進 AI 時，他們的應變能力會在最需要速度的時刻受到限制。企業與國家需要開放的前沿防禦工具與技術，讓關鍵產業能在多供應商生態系中建立安全系統，並避免單一故障點。

這就是 Open Secure AI Alliance 的使命：確保全球防禦者都能擁有可信任、可掌控的開放前沿工具。

來自雲端運算、資安、企業軟體、開源基金會與 AI 研究領域的領導者——包括 NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab 與 TrendAI——是 Open Secure AI Alliance 的首批合作夥伴。這項運動旨在開發並分享開放技術、技術方法與工具，以在 AI 時代保護軟體與代理。

有人認為，開放模型天生較不安全，因為它們可能被用於網路攻擊，或被修改以移除防護機制。這些風險確實存在，但在封閉系統中並不會消失，而僅僅把權重關閉，也無法阻止有決心的攻擊者尋找或利用強大的 AI。

正確的回應不是拒絕讓防禦者接觸有能力的開放系統，而是將開放性與強化防護、明確反制濫用的規則、嚴謹評估與快速修補結合。在資安領域，更安全的路徑是讓更多防禦者有能力測試、驗證並強化社會所依賴的系統。

防禦者需要前沿封閉模型與前沿開放模型共同運作，如此才能針對任務選擇合適的系統，並確保在安全需求出現之處，都能取得透明度、可調整性與主權控制。

開放研究強化資安與 AI 安全

AI agent 不只是語言模型。它是一個由模型、harnesses 與 guardrails 組成的複雜系統。

真正的 AI 安全與資安，取決於完整的 agent 堆疊——身分、權限、harnesses、guardrails、記錄與評估——而不只是模型權重是否開放。開放的 harnesses 與工具能讓許多防禦者更容易檢視、測試並改進這些控制。

NVIDIA 正向 Open Secure AI Alliance 提供開放模型、模型權重、資料與新的 agent harness 研究，以加速新資安工具與技術的開發。

新的開源 NVIDIA Labs Object-Oriented Agent（NOOA）專案現已在 GitHub 上提供，讓先進 AI 安全能力更容易用於 agent harnesses。NOOA 研究框架可讓 harnesses 與模型更好整合，使 agent 行為更容易被測試、追蹤、稽核與治理。

聯盟各方的貢獻者正在為 agents 建立開放防禦堆疊——從身分與隔離，到安全模型格式、多模型掃描與安全編碼工作流程。

HPE 貢獻了 SPIFFE/SPIRE，它建立零信任身分框架標準與方法，可透過密碼學驗證 AI agents 與服務，確保只有授權工作負載能通訊並存取企業資源。

Hugging Face 已將 Safetensors——用於儲存 AI 模型權重的安全格式，提供透明度與不會遠端執行程式碼的保證——提供給 PyTorch Foundation。

IBM 與 Red Hat 的 Lightwell 透過數位簽章修補程式，將安全性延伸至開源供應鏈。

Microsoft 的 MDASH 多模型 agentic 掃描 harness 會協調專門的 AI agents，找出、辯論並證明可被利用的漏洞。

SpaceXAI 已將以終端機為基礎的 AI 程式編寫 agent Grok Build 開源，以提升信任、透明度與新能力，並計畫將 Grok 系列模型的權重開源，以支持開發者與研究社群。

給政策制定者與監管機構的呼籲

當政策制定者與監管機構處理 AI 安全議題時，至關重要的是在 AI 與資安政策中將開放模型、harnesses 與安全工具視為防禦資產，而非負債。對開放前沿 AI 系統的一刀切限制，將削弱防禦能力，並有可能把權力、依賴與脆弱性集中到少數封閉供應商手中。

企業與政府應投資於共享的 AI 防禦開放基礎設施——資料集、評估框架、攻擊模擬器與紅隊工具——就如同過去世代投資開源軟體那樣。

我們應該打造的未來

AI agents 的時代可以成為韌性與共享安全的時代。只要做出正確選擇，開放且安全的 AI 系統就能為防禦者提供所需工具、強化競爭、延伸技術領先地位，並確保這項非凡技術的安全與防護以開放方式為所有人建立。

那樣的未來不會因為假設「保密就是安全」而得到保障；它將透過打造足以承受審視、具備可改善彈性、並足夠開放以動員整個防禦者社群的系統而實現。

那樣的未來值得打造——而 Open Secure AI Alliance 邀請政府、產業與研究人員共同參與，攜手守護 AI 時代。

了解更多或表達加入 Open Secure AI Alliance 的意願。