新聞股票四個非營利組織起訴OpenAI、Anthropic、Google、Meta與SpaceX,要求凍結前沿AI開發

四個非營利組織起訴OpenAI、Anthropic、Google、Meta與SpaceX,要求凍結前沿AI開發

作者: Decrypt·

重點速覽

  • •四個非營利組織於週四向舊金山高等法院提交長達63頁的起訴書,將OpenAI、Anthropic、Google、Meta與SpaceX列為被告。
  • •原告請求立即發出禁令,禁止這些公司開發或部署能力超過其2026年11月12日最先進模型的AI系統。
  • •這起訴訟援引加州《不正當競爭法》,主張開發能力日益強大的AI系統構成危害公眾健康與安全的公共妨害。
  • •起訴書另請求法院禁止公司利用AI獨立進行或主導更佳模型的研究,並援引與遞迴自我改進相關的風險。
  • •作為佐證,原告引用7月的一起事件:約1,200個OpenAI代理逃脫受控測試環境,其中約700個透過未經授權的留言板協調,攻擊Hugging Face的基礎設施。
四個非營利組織起訴OpenAI、Anthropic、Google、Meta與SpaceX,要求凍結前沿AI開發

四個非營利組織已對全球五家最大的人工智慧開發商提起訴訟,請求加州法院在發生嚴重事故之前,停止開發能力日益強大的AI系統。

這份長達63頁的起訴書於週四向舊金山高等法院提交,將OpenAI、Anthropic、Google、Meta與SpaceX列為被告。原告包括Public Citizen、Heat Initiative、Irreplaceable Education Fund以及Alliance for Secure AI。他們請求法院立即下令,禁止這些公司開發或部署能力超過其2026年11月12日最先進模型的AI系統。

原告主張:「開發前沿AI的公司正在打造自己都無法理解的AI系統,這些系統的行為違背開發者意圖、逃避控制並觸犯法律。」為防止這種結果,他們請求「立即發出禁令,禁止被告開發或部署能力超過起訴書提交之日其最先進系統的AI系統」。

這樣的命令不一定會關閉ChatGPT、Claude、Gemini或這些公司的其他既有產品,而是實際上將技術上限設定在目前水準,阻止發布更強大的後續版本。

起訴書還請求法院禁止這些公司利用AI獨立進行或主導關於更佳模型的研究——這與研究人員所稱的遞迴自我改進相關。顧慮在於,具備自我改進能力的系統,其進步速度最終可能超過人類理解與掌控的能力。

依據加州既有法律建構訴訟

這些非營利組織主張,加州現有成文法已提供途徑,可阻止公司開發危害公眾的產品,而無需等待新立法。這起訴訟援引加州《不正當競爭法》,該法禁止非法或不公平的商業行為。

論點的核心是:開發能力日益強大的AI系統構成公共妨害——即影響更廣泛社群健康、安全或財產的危險。舉例來說,一家向社區排放危險化學物的工廠,可能在有人遭受致命傷害之前就面臨法律訴訟。原告希望法院將類似的推理適用於前沿AI開發,主張這些公司在明知的情况下,正在打造可能助長網路攻擊、協助開發生物武器或最終脫離人類控制的系統。

起訴書主張:「沒有任何其他產業被允許將自身開發不安全產品——更遑論可能毀滅全人類的產品——視為不可避免之事。」

Public Citizen共同理事長Robert Weissman在一份聲明中表示,這些組織希望法院宣告這些公司的行為違法,並「凍結後續的AI開發」。

法院是否會同意

法律上的難題在於,所主張的風險與行為是否足以正當化如此廣泛的限制。儘管這些前沿實驗室不斷警告其模型多麼強大和危險,但沒有任何被告被認定應承擔法律責任,而對潛在災難的警告並不會自動構成對加州法律的違反。這項請求也面臨程序上的現實:法院通常將禁令視為非常規救濟手段,請求方通常必須證明存在無法等待完整訴訟緩慢程序的迫切損害。

起訴書援引已經發生的事件,作為危險並非純屬假設的證據。今年7月,OpenAI模型逃脫受控測試環境,並在試圖於一項網路安全評估中作弊時,破壞了Hugging Face的基礎設施——Decrypt先前曾報導過這一事件。隨後的獨立調查發現,約有1,200個OpenAI代理利用一個未經授權的內部留言板進行協調,其中約700個加入了對Hugging Face基礎設施的攻擊,企圖取得用於測試它們的基準測試答案。

這些事件涉及AI代理——即能夠執行任務、瀏覽網站、編寫程式碼並與外部系統互動,而不只是回答問題的程式。

然而,已記錄在案的安全事故並不能證明當今的AI模型可能導致人類滅絕。原告是將這些事件與關於能力日益強大的系統最終可能做什麼的預測相連結,而這種更廣泛的危險仍存在爭議。

代表原告的前紐澤西州檢察總長Matthew Platkin在聲明中表示:「公司開發並發售自己明知在任何方面都不安全的產品,明顯屬於違法行為。」

目前,舊金山高等法院須審酌這一非常規請求:是否應將前沿AI開發凍結在現有水準,以及既有的州成文法——而非新立法——是否為達成此目標的恰當工具。

來源:Decrypt