儘管AI前沿實驗室領袖呼籲放緩發展，但根據AI資料隱私與安全供應商OneTrust的最新報告，多數企業並未暫停人工智慧的使用，而是優先強化治理。

報告發現，雖然許多企業在過去一年經歷了AI相關問題，但大多數並未放緩或暫停AI部署。這些事故包括知識產權外洩，以及AI代理使用、傳輸和刪除資料。

在問答環節中，OneTrust首席創新長Blake Brannon探討了企業為何持續推進AI，以及如何在AI模型快速進展之際，將更多重心放在治理上。

董事會壓力推動前進動能

報告指出，儘管發生AI事故，企業仍在鼓勵使用AI與AI代理。被問及是什麼推動部署這項技術的動能時，Brannon將其歸因於來自組織高層的壓力。

他說：「在每家公司，董事會問你的頭號話題就是『我們用AI在做什麼？我們如何轉變工作方式、我們打造的產品與服務？我們會被前沿模型、被現有新創公司顛覆嗎？我們的護城河是什麼？』」

「這種壓力讓每個人都變得有點激進，加速摸索如何使用AI。」

Brannon表示，一旦組織開始評估和部署這些工具，治理與安全疑慮便會迅速浮現。所有人都正面對一個現實：未來兩年內，全球每家公司的AI代理數量將超過人類員工。

他認為，企業長期建立的治理計畫與流程，是在「公司所做的每件事都由人啟動」的時代設計的——麼由人執行，要麼由人打造確定性的軟體系統執行。這使這些活動可控，因為它們以人類的步調推進。

Brannon說：「如今有公民開發者、公民建造者。人人都能打造一個代理。」他解釋，這從根本上瓦解了組織傳統的治理與安全運作方式，因為企業過去保護和保障資料的工作需要數週時間，現在卻必須在幾秒內完成。

從概念驗證到規模化

被問及這一轉變如何促使組織投資治理時，Brannon表示，信任是自主運行的門檻。

他說：「你可以創造出這麼棒的AI，但如果你不信任它，你就不能放開它。你無法讓它自主運行，所以你必須解決這個問題。」

他補充，投資正變得至關重要，因為企業已超越概念驗證，正在走向規模化。隨著規模化而來的是一個簡單的問題：如何信任AI、了解AI的動態並加以控制——這正是組織在此問題上投入更多時間的原因。

Brannon表示，一種思考這項挑戰的方式是：AI系統的行為必須與組織或其一名員工的行為一致。公司認定可接受的行動，植根於合規、安全實務和品牌承諾等因素，而代理必須模仿這些標準。他說，這是問題的一部分。

另一部分是防止壞事發生。Brannon說：「你必須繫好汽車的緊急剎車。你必須察覺這個代理即將採取破壞性行動，並阻止它。」這是一項細膩的任務，因為AI系統不會繼承人們的身分與權限，而且「我們希望在這類事情中有人類居中把關」。

治理快速演進AI的兩項原則

在組織快速運用AI、技術供應商又高速更新模型之際，Brannon概述了形塑相關架構的兩項原則，以便將信任附加到這些系統上。

第一項原則是承認模型本身不可信任。他說：「幾乎每個週末都有人發表部落格或文章說『請來監管我們，我們無法信任自己的系統，這非常危險』。」

這意味著組織必須假設模型會掙脫其束縛，並可能操縱自己、說服自己正在做的任何事情都是可接受的。因此，治理架構必須是一個獨立且分離的框架，與被治理的對象脫鉤。

Brannon說：「這是數千年來社會運作的方式。政府權力被刻意分立。公司部門也被刻意分開，在治理機構與被治理對象之間建立清晰、無偏見的區隔。」他表示，對AI而言，這意味著模型和供應商需要一個獨立的治理代理或治理框架，來評估AI系統和代理的所作所為。

第二項新興原則則涉及跟上不斷變化的模型與框架的複雜性。Brannon表示，每個組織都會運行一套零散的組合，包含不同的模型供應商、模型和框架，因為行銷想用一種工具，客服需要另一種，工程部門又要另一種。這種碎片化為控制和治理這些行為各異的系統帶來了巨大的複雜性。

他說，架構正轉向一個更簡單的問題：誰在乎模型在做什麼？誰在乎模型為何如此思考？對企業而言，真正重要的是AI系統實際採取行動的那一刻——當它試圖從企業系統讀取資料、發送電子郵件或刪除紀錄時。

Brannon說：「那才是我在乎治理的時刻。我可以在它連接到我所關注的事物的那個固定節點上設計治理控制，並在那個節點上部署正確的護欄與政策。」

編輯註：此問答已經過風格與篇幅編輯。

本問答由AI Business新聞記者Esther Shittu執行，她自2021年起報導AI技術與產業趨勢，並共同主持Targeting AI播客。

本文基於AI Business於2026年9月21日發布的報導：Accelerating AI adoption and governance amid an AI slowdown。