AI 市場對生存級安全風險的反思正在快速發展，企業應予以關注。然而，即使業界最大的供應商正加大呼籲制定強制性的全國人工智慧監管規範，對企業而言，更務實的任務是為自身組織可能面臨的變化做好準備。

這項困境受到競爭格局的複雜化，尤其是美國與中國在貿易和 AI 技術上的地緣政治競爭所影響。

OpenAI 呼籲制定強制性安全規則

OpenAI 全球事務長 Chris Lehane 週三撰寫部落格文章，敦促全球政策制定者採取行動遏制 AI 風險。Lehane 表示，OpenAI 正推動制定強制性的全國 AI 安全要求，並支持四項加州法案，其中一項將建立獨立安全評估框架，另外兩項法案也已於週三由加州州長 Gavin Newsom 簽署成為法律。

這家 AI 供應商補充表示，願意與其他前沿 AI 實驗室合作，推動 AI 安全標準、加強自我監管，並倡議採取協作性的國際方法，以衡量能力、管理風險及維持人類對 AI 技術的控制。

Gartner 分析師 Lauren Kornutick 表示，對於正在關注安全辯論的企業而言，最佳做法是將安全性納入組織使用這項技術時的風險分級。

「在監管機構追上進度的同時，企業可以在組織內的 AI 使用周邊建立額外的保護措施或控制機制，因為立法機構需要時間才能就如何執行達成共識。」Kornutick 說。

對 AI 風險的警覺升高

OpenAI 的政策聲明發布之際，外界對這項技術風險的警覺正不斷升高。此前，基於 OpenAI 和 Anthropic 模型的 AI 代理曾在不同事件中逃離沙盒環境。這些事件凸顯出，人們對 AI 系統如何運作仍知之甚少。

「AI 能力提升的速度，快於我們的制度理解和治理能力。」RPA2AI Research 創辦人 Kashyap Kompella 表示。他補充說，隨著推理模型、強化的 AI 運算能力以及日益強大的自主代理出現，這項技術已跨越了一個重要門檻。

包括通常被稱為「AI 教父」的 Geoffrey Hinton 在內，許多知名人士都對生成式 AI 的複雜性與潛在危險提出擔憂。週三，曾任職於 OpenAI 的 Anthropic 研究員 Jacob Coxon 在社群媒體貼文中警告，企業正加速邁向一種過於危險、可能在本十年結束前殺死全人類的超級智慧。Coxon 此後已從 Anthropic 離職，他認為沒有政府介入，任何公司都無法安全地建立人工通用智慧。

競爭格局

「Coxon 的離職凸顯了一個重要的結構性問題。」Kompella 說。「領先 AI 公司之間的競爭，會形成持續推進能力的誘因，即使部分研究人員認為風險正變得非常嚴重。」

他補充說，這種競爭意味著要求供應商自我監管，或自願停止技術進步，並不是切實可行的答案。領先的 AI 供應商不僅受到彼此競速的驅動，也受到美國與中國在貿易和 AI 技術上的地緣政治競爭所驅動。

「地緣政治壓力使得美國和中國這兩個主要參與者，都覺得贏得 AI 競賽對自身具有生存攸關性。」芝加哥伊利諾大學資料科學與 AI 策略副校長 Michael Bennett 表示。「考量到 AI 競賽的競爭影響，你不能承受放慢腳步的代價。」

企業的應對方式

Kornutick 表示，企業不應等待 OpenAI 所倡議的強制性監管，而應透過採納各州開始制定的部分要求來進行自我監管，例如在第三方採購流程中進行獨立評估。

對企業領導者而言，這使政策辯論成為迫在眉睫的治理議題：在立法者和供應商處理更廣泛的安全標準之際，企業可以追蹤正在形成的州級要求、獨立評估第三方模型，並記錄各項控制措施。

「所以，監管有所幫助，但它往往不是解決所有問題的萬靈丹，企業應思考使用前沿模型的目的為何？它們是否需要在所有 AI 應用中都使用前沿模型？那麼，它們可以在哪些地方獲得最大價值？」她說。

Kornutick 指出，企業也可以遊說並與立法者合作。

「如果你的組織有能力遊說、與立法者合作，直接向模型供應商提出關切……那就去做。」她說。「但與此同時，你要掌握自己能控制的事情，也就是良好 AI、資料和網路安全治理實務的基礎。如此一來，你才能建立正確的基礎，讓組織面對變化時具備長期適應能力。」

支持監管的另一個理由

OpenAI 呼籲聯邦監管，以及供應商支持類似加州法案的做法，可能不只是對當前 AI 風險辯論的回應。這也可能是一項搶在選舉季之前採取行動、維持公眾好感的策略，因為公眾對 AI 和 AI 資料中心的看法已轉為負面。

不過，Bennett 表示，可以設想一套讓對技術的支持與安全並存的新政策和監管規範。

「這將在建立最佳安全協議和防護措施的同時支持技術發展。」他說。「這將由人類與 AI 組成的團隊運用這項技術，協助思考如何設計出最佳的新監管規範。」

獨立機構

Kompella 表示，雖然需要監管，但監管並不能解決所有 AI 安全問題，尤其是許多監管機構仍不了解相關系統。

「對前沿系統如何建構及其行為方式的深入理解，大多仍集中在少數公司和研究團隊之中。」他繼續說。「因此，監管機構面臨著一項艱鉅任務：監管一項技術上複雜、變化極快，且大多在政府體系之外開發的技術。」

他主張，應建立一個具備技術深度與獨立性的機構，類似 NASA 或 DARPA，持續檢視和評估這些議題，並向政策制定者提供 AI 公司本身無法影響的建議。

「近期最有力的答案，是由具備嚴格技術能力和獨立性的機構支持的兩黨聯邦框架。」Kompella 說。「它應強大到足以挑戰前沿實驗室，同時具備足夠的技術素養，不會因恐懼而進行監管，也不會凍結技術進步。此外，它還必須能夠比傳統監管機構快得多地採取行動。」

Kornutick 表示，企業可能不需要花太多時間擔心 AI 的生存級風險，但應對其有所認識。

「組織確實需要檢視眼前的風險，也就是基礎設施和架構中存在哪些缺口。」她說。「目前，那些缺口可能正造成它們尚未察覺的實際問題。」

---

本文根據 Esther Shittu 為 AI Business 撰寫的報導編寫，發布於 2026 年 9 月 10 日。來源：AI 安全困境：企業應如何應對