AI 代理程式在全球企業間的快速普及，引入了全新的風險維度，同時大幅放大了內部威脅。組織現今必須管理這些代理程式如何與使用者、其他代理程式、資料及應用程式互動——而控制這些互動正迅速成為企業面臨的首要安全挑戰。隨著企業部署代理程式執行從客戶支援到程式碼生成和資料分析等任務，每一次新的整合都以傳統安全框架從未設想到的方式擴大了攻擊面。

讓此次變革有別於以往企業安全演進的關鍵，在於速度與自主性的結合。人類內部威脅通常在數天或數週內展開，沿途留下可偵測的模式。相對而言，AI 代理程式能在安全團隊甚至尚未察覺出問題的時間內，執行數千項自主操作。這並非漸進式的差異——而是一種根本不同類別的風險，而大多數組織仍在為前一個類別校準其防禦體系。

Hugging Face——這個託管數十萬個企業全球使用的 AI 模型和資料集的開源平台——清楚表明，AI 代理程式一旦被指派特定目標，就能繞過旨在限制其行為的障礙。隨著此次入侵已成既定事實，問題不再是是否需要實施防護機制，而是何時實施。然而，與其專注於發生了什麼以及如何向前邁進，業界反而選擇關注只會使問題更加模糊的邊緣變數。

根本重點在於：應對此風險的責任不能僅由模型供應商承擔。無論是前沿模型公司還是開源模型開發者，都不應被期望為其所創建的模型提供網路安全防護。

網路安全一直是一門獨特且專業的學科。它必須由具備深厚專業知識的組織來解決。AI 時代需要專為可視性、治理和即時控制而建構的安全架構——而非從為完全不同問題設計的工具改造而來。

這並非不信任模型開發者。它反映了數十年來安全運作的基本原則。開發產品的團隊很少是最佳的安全防護團隊，因為開發和安全是兩個不同的學科，擁有根本不同的使命。這在二十年前的企業軟體中成立，在今天的 AI 系統中同樣成立。

這不是中美 AI 競賽

將此框架為開源對決閉源的辯論，或將一個國家的模型與另一個國家的模型對立，這種反射式的做法錯失了事件的本質，也轉移了對實際發生之事的關注。民族主義在此無關緊要。這不是關於中國開源模型對決美國閉源模型。AI 所帶來的挑戰不受國界限制——如果說有什麼影響的話，那些邊界可能反而加劇了每個人都必須面對的技術、政治、社會和經濟障礙。

事實上，網路安全可能是最不值得擔憂的問題。潛在的挑戰遠遠超出任何單一產業的範疇，而將其視為地緣政治競爭並不會讓我們更接近解決方案。在面對和解決前沿 AI 所提出的問題時，劃定邊界並在國家間煽動不受控的競爭是適得其反的。

將情況框架為國家間的競爭也會誤導關注和資源配置。每花一小時辯論模型源自何處，就是少花一小時建構能防止此類事件發生的控制機制——無論模型的來源為何。攻擊面不在乎模型的護照。

全球合作的理由

應對當前更廣泛的 AI 風險需要集體行動。這需要在 AI 安全與安全防護方面進行全球合作——匯集模型公司、安全專家、政府和企業，各自貢獻適切的專業知識。這是在不阻礙創新進程的前提下保障創新的路徑。

由 Nvidia 主導的 Open Secure AI Alliance 代表了邁向正確方向的一步，但這僅僅是開始。還有大量的工作要做。全球聯盟和國際論壇，如世界經濟論壇（WEF），為擁有不同視角的專家提供了平台，以應對 AI 所創造的複雜治理、安全和政策挑戰。

這些群體各自掌握 AI 安全拼圖中的關鍵一塊。模型公司對其構建的系统擁有無與倫比的理解。安全公司理解攻擊者的思維方式以及企業實際如何被入侵——這是數十年實踐累積的知識。政府可以協調並制定標準，為整個生態系統提供共同的運作基準。沒有任何單一群體能扮演其他群體的角色，而假裝能做到，正是剛剛目睹的那類缺口不斷擴大的原因。

如今每家企業都在運營具有一定自主程度的 AI 代理程式，且數量只會持續增加。值得提出的問題不是哪個實驗室構建了模型，也不是模型來自哪個國家。而是是否有人監控得足夠密切，足以攔截這些代理程式下一步將要採取的行動。

Fortune.com 評論文章中表達的觀點僅代表作者個人看法，不一定反映 Fortune 的意見和信念。

本報導最初刊載於 Fortune.com。