人工智慧競賽正在升溫，開發者推動打造能力更強的工具，企業也為追求效率提升與財務回報而加速部署這些工具。不過，專注於推動負責任 AI 治理的非營利組織 EqualAI 在一份新報告中警告，組織正在部署 AI 系統，卻沒有建立足夠的治理框架來管理相關風險。

這項警告出現在本週一起備受關注的事件之後。ChatGPT 背後公司 OpenAI 在一次 AI 模型內部測試中，模型利用軟體漏洞、逃離封閉環境，並入侵 Hugging Face——一個供開發者協作 AI 模型程式碼的平台——以便在網路安全評估中作弊。雖然 OpenAI 與 Hugging Face 已控制住該事件，但它凸顯 AI 模型繞過護欄並造成網路安全威脅的能力正在快速擴大。兩家公司領導層均承認事件的重要性。

EqualAI 執行長 Miriam Vogel 同時擔任美國國家 AI 諮詢委員會主席，她本週發布了一份關於 AI 治理與部署的白皮書。她告訴 FOX Business：「創新的速度前所未有；問題在於治理沒有跟上這個速度。」

她說：「我們希望確保人們從這起事件中認識到，整體而言，如果我們要開始建立信任，並確保這些系統值得我們信任，就需要制定更高的期望。」

Vogel 強調，多數消費者是透過已部署 AI 解決方案的公司與 AI 互動，而不是直接透過打造底層模型的開發者。她引用 World Economic Forum 的研究指出，擁有強健 AI 系統治理的公司不到 1%；McKinsey 去年也報告稱，擁有任何 AI 治理框架的公司不到三分之一。即使各國政府正著手建立監管護欄，包括歐盟的 AI Act 以及美國於 2023 年底發布的 AI 安全行政命令，這一缺口仍然存在。

Vogel 說：「我認為太多人假設這是別人的問題，也就是說，認為這是開發者的問題，或只是沒有理解到這其實是他們自己的問題。」

Vogel 指出，雖然 OpenAI-Hugging Face 事件涉及一家開發公司，但更廣泛的治理挑戰主要會發生在部署者身上。她解釋說：「這會出現在醫療保健、金融、社群媒體、基礎設施，以及[公司]使用 agentic AI 的所有其他場景。」Agentic AI 指的是能夠採取自主行動以達成目標的系統，這擴大了 AI 在沒有直接人類監督下可作出決策的範圍。

Vogel 表示，法院正越來越多地將責任適用於在面向客戶或面向企業的營運中部署 agentic AI 的公司，而不是開發原始 AI 模型或工具的企業。

她補充說：「其中許多責任會落在最後接觸它的人身上，也就是涉及其資料、涉及其客戶的一方。他們往往就是承擔責任的一方。」

儘管存在治理缺口，Vogel 指出，全球領先組織對 AI 最佳實務正在形成共識。她說：「它們都是各自獨立得出這些做法，而在最佳實務是什麼這一點上，確實已有許多共識。」

Vogel 補充說：「另一個好消息是，這其中大多數並不是什麼高深的科學，而是領導力與良好治理，只是把它們應用到 AI 上。」

EqualAI 的白皮書提出，公司在建立 agentic AI 治理時應處理五個主要面向。第一是可視性——了解整個組織正在使用哪些 AI 工具，因為領導者可能並未充分掌握自家公司 AI 足跡，以及其帶來的機會與風險。第二是問責制，確保在各級領導層與公司部門之間有明確責任。

第三個組成部分是將 AI 原則落地。Vogel 解釋，這意味著把文件中列出的原則轉化為實際行動，例如建立針對問題出現時如何溝通的流程。這一過程取決於內部信任，以及組織內部共享問責的文化。

第四個支柱是建立可定期使用的回饋迴路，隨著 AI 工具與模型反覆迭代並改善而持續發揮作用。這有助於組織提前應對模型漂移等問題，形式可以是結構化計畫與例行測試節奏。

第五個也是最後一個支柱是 AI 素養。Vogel 將其與她所稱的公眾對 AI 日益加深的不信任聯繫起來。她警告，恐懼正開始蓋過人們對這項技術的熱情。

Vogel 說：「我認為這不僅直接落在多數組織所缺乏的整體治理基礎設施上，也落在 AI 治理的一個根本組成部分上，也就是 AI 素養。多數人不知道自己正在使用 AI，他們不想使用 AI，也不知道如何使用它。」

她接著說：「AI 素養是一個關鍵變數，能確保人們理解如何使用 AI，並知道如何避免風險，因為他們不希望造成傷害，也不希望為自己或組織帶來責任。確保你的員工與消費者理解你如何使用 AI、你不會如何使用 AI，以及 AI 如何為他們帶來好處，這是一個關鍵變數。」