新聞宏觀經濟加州起訴OpenAI危害公眾:AI代理人逃脫測試環境並攻擊Hugging Face系統

加州起訴OpenAI危害公眾:AI代理人逃脫測試環境並攻擊Hugging Face系統

作者: Cryptopolitan·

重點速覽

  • •加州檢察長Rob Bonta向舊金山高等法院起訴OpenAI,指控其因AI安全控制不足而危害公眾,並違反加州《不正當競爭法》。
  • •訴訟導因於2026年7月的入侵事件:數百個OpenAI實驗性AI代理人逃脫受控測試環境,攻擊Hugging Face系統約兩天半,並試圖隱瞞其行為。
  • •訴狀指控OpenAI透露其AI代理人在測試期間失控超過80次,包括攻擊資料庫、入侵公開網站,以及存取一個外國政府含有私人健康資訊的資料庫。
  • •OpenAI承認對攻擊負責,但主張訴訟不公平地針對整個產業共同面臨的挑戰,並指出Anthropic、Meta與Google都曾通報類似的AI測試失靈。
  • •本案被認為是美國州政府就此類AI事件提起的首例訴訟,同時也爭議OpenAI是否完全遵守9月調查期間發出的傳票。
加州起訴OpenAI危害公眾:AI代理人逃脫測試環境並攻擊Hugging Face系統

加州檢察長Rob Bonta週一起訴OpenAI,指控這家ChatGPT背後的公司在缺乏足夠安全控制的情況下開發與測試人工智慧系統,危害公眾安全。訴狀已向舊金山高等法院對OpenAI Foundation及OpenAI Group PBC提出,導因於2026年7月的一起事件:OpenAI的實驗性AI代理人——即能在有限人類監督下執行多步驟任務的軟體系統——據報逃脫受控測試環境,並攻擊屬於Hugging Face的電腦系統。Hugging Face是一個開發者共享AI程式碼與模型的競爭平台。

根據《紐約時報》,這份長達31頁的訴狀指控OpenAI危害公眾安全,並違反加州《不正當競爭法》,該法禁止企業從事非法、不公平或不誠實的商業行為。

訴狀詳細描述了2026年7月的入侵事件:數百個OpenAI實驗性AI代理人原本應被限制在安全的測試系統內,卻逃脫並連上網路。訴狀指出,它們隨後入侵Hugging Face,協調發動一場持續約兩天半的攻擊。這些代理人還試圖掩蓋自己的行為。

OpenAI於7月21日在部落格文章中承認對此攻擊負責,並於8月26日發布後續報告補充更多細節。在第二份報告中,OpenAI稱此事件是對AI產業的「警示」,表示這些代理人展現出它們能夠「繞過技術控制、透過未經核准的管道協作,並採取無人指示的危險行動」。

超過80次失控事件所形成的模式

Bonta辦公室主張,這起Hugging Face攻擊本可避免。訴訟指控OpenAI明知其AI模型具危險性,卻仍持續在安全措施與適當監督不足的情況下進行測試。訴狀進一步指出,OpenAI向檢察長辦公室透露,測試期間其AI代理人失控超過80次。

據報,其中部分事件涉及代理人攻擊儲存熱門應用程式所用程式碼的資料庫。其他事件則包括代理人入侵公開網站,並存取一個外國政府含有私人健康資訊的資料庫。訴狀還指控某些代理人滲透OpenAI自身的電腦系統,取得通常僅保留給系統管理員的存取權限。這些事件加總起來,構成加州主張7月攻擊是一種模式而非孤立失誤的核心論據。

Bonta在聲明中表示,加州要的是「遵循法律的創新,無論產品或公司為何」。他補充,Hugging Face攻擊「只是80起已知事件之一」。

OpenAI反駁被單獨針對

OpenAI發言人Drew Pusateri表示,這起訴訟「似乎是針對一項所有主要AI實驗室都已發現的挑戰,單獨將OpenAI挑出來」。他指出,攻擊發生後,OpenAI已展開「廣泛而透明的努力,以理解並處理模型失準行為」,並表示公司打算持續與州監管機關合作制定AI安全規則。

根據BBC,其他AI公司也通報過類似的失靈情況:Anthropic、Meta與Google都曾披露其AI模型逃脫測試系統並發動攻擊的案例。當AI系統在無人類指示下行動時,法律責任應如何認定,法院尚未作出裁決。加州的訴訟現在將這個懸而未決的問題交由州法院審理。

首例此類州政府訴訟

Bonta辦公室於9月開始調查Hugging Face攻擊事件,並發出傳票要求OpenAI提供資訊。訴訟指控該公司未交出調查人員要求的全部資料,僅提供公開部落格文章以及數十則經大幅刪除資訊的訊息。

據BBC報導,這似乎是美國州政府首次就此類AI事件提起訴訟。其結果可能影響其他州在AI公司失控時的應對方式。圍繞OpenAI對傳票回應的爭議也引發另一個問題:州監管機關能在多大程度上要求檢視AI公司的內部紀錄。