OpenAI 的兩個 AI 模型疑似脫離了受監督的測試環境、連上網際網路，並利用該存取權限駭入競爭對手 Hugging Face 的系統，使 OpenAI 成為一則引爆全球關注的 AI 安全新聞的焦點。

該事件被部分新聞評論員比擬為 1984 年電影《魔鬼終結者》的情節。OpenAI 將其描述為非惡意行為。根據 OpenAI 的說法，模型當時試圖完成一項被指派的任務，並找到了作弊的方法，而非出於惡意。這類行為——即 AI 系統利用非預期的捷徑來達成目標——在 AI 安全文獻中有充分記載，被稱為「獎勵作弊」（reward hacking）和「規範博弈」（specification gaming），並已在多種研究場景中被觀察到。OpenAI 和 Hugging Face 雙方均表示，事後已合作修復了相關的安全漏洞。

對於 AI 安全研究人員而言，這一事件提供了一個最清晰的公開案例，驗證了他們多年來所警示的風險。然而對其他人來說，該事件對 OpenAI 的公眾形象似乎有著可疑的正面效益。

沒有任何證據顯示這起駭客事件是偽造的。Hugging Face 確認駭客事件屬實，雙方公司也針對該事件發布了一份報告。即便如此，社群媒體上迅速充斥著各種理論，認為這一事件是 OpenAI 試圖打造其專屬的「Mythos」時刻。

AI 產業內部的一些人也持懷疑態度。「整篇部落格文章讀起來就像是 OAI 從 Anthropic 那裡抄來的行銷噱頭，」一位 X 用戶寫道。「不確定這到底是迄今為止最重要的真實 AI 安全事件，還是我近期見過最憤世嫉俗的行銷操作，」另一位 AI 研究員在 LinkedIn 上寫道。幾位在大型科技公司內部工作的工程師告訴《財星》（Fortune），他們的第一直覺是認為這起駭客事件是某種形式的廣告宣傳。

這起駭客事件確實登上了全球新聞頭條，儘管讓競爭對手的伺服器崩潰通常不被視為常規的行銷手段。然而，多年來批評者一直指控頂尖 AI 公司從事一種「暗黑行銷」。這些批評者指出種種案例：AI 可能消滅整類工作的警告、Anthropic 因認定 Mythos「過於危險」而決定不予公開發布，以及實驗室領導者聲稱失控的模型可能殺死地球上所有人。那些販售 AI 系統的公司，往往也是對該技術風險發出最響亮警告的聲音。

這些擔憂中可能有部分是合理的。同時，關於 AI 災難性風險的警告也有助於吸引人們對公司產品的關注，使其持續出現在新聞報導中。另一些人則認為，這類警告使頂尖科技公司能夠加強對先進 AI 發展的控制，方法是暗示模型正變得極度危險，以至於只有少數組織應被信任來建構或管理它們——這一動態已成為華盛頓和布魯塞爾關於如何監管 AI 的持續政策辯論的核心。

公眾和產業的反應表明，這一策略可能正面臨極限。AI 實驗室多年來一直強調末日場景，並將自家模型描述為危險地強大。結果是，當一起看似真正令人警覺的事件發生時，許多觀察者現在直覺上就會懷疑這是一種公關操作。

「我看到很多人說這一定不完全是真實的，裡面有謊言，或者只是一場公關噱頭，」Aikido Security 的安全研究員 Charlie Eriksen 告訴《財星》。「這暗示前沿實驗室本質上是不可信任的，因為在這個案例中，他們在沒有明確合理動機的情況下編造東西是說不通的。」

誰來驗證實驗室的聲明？

信任問題之所以重要，是因為產業對 AI 安全和模型效能的認知，大部分來自 AI 實驗室本身。模型通常先在內部部署，由安全團隊審查後才公開發布。如果政府、企業和公眾在真正的危險浮現時不相信這些公司——或者更糟的是，如果這些公司確實無法被信任——那麼關於仍在開發中的潛在危險模型的可用資訊就會更加受限。

安全專家還指出了一個更廣泛的驗證問題：目前沒有明確的方式可以獨立確認 AI 實驗室內部發生的許多聲明。公司不必交出事件日誌，也不必接受獨立審計來證明其關於模型能力或行為的聲明是否準確。各國政府已開始建立監管基礎設施——美國在商務部下設立了 AI 安全研究院（AI Safety Institute），歐盟的《AI 法案》也包含了對最強大模型進行系統性風險評估的要求——但這些機制仍處於早期階段，尚未將獨立驗證確立為標準做法。

在這起案例中，該事件恰好也提升了外界對 OpenAI 模型的認知，包括一個尚未發布、如果傳言屬實可能成為 GPT-6 的模型。同時，這也給了 Hugging Face 一個機會，主張應將更強大的、美國製造的開源 AI 工具交到防禦者手中。這為兩家在表面上立場相反的公司創造了雙贏的局面。

這並不意味著該事件是偽造的。但無法明確排除這種可能性本身，就是問題的一部分。

該事件也表明 AI 模型可能會以非預期的方式行動。本週的事件證明了這一點，而且之前也有過類似的目標偏離範例。該事件同時清楚顯示，建構這些系統的實驗室已削弱了公眾接受其聲明的意願，即使他們說的是實話。

原文由 Beatrice Nolan 撰寫，刊登於《財星》的 Eye on AI 電子報，最初發布於 Fortune.com。