據一名高層官員證實,美國聯邦貿易委員會(FTC)已展開調查,以釐清OpenAI與Anthropic所建構的人工智慧系統是否對美國消費者構成危害。專門為風險稽核前沿AI模型的加州非營利組織METR,也同樣捲入這項調查。

正式的民事調查要求令預計將於數週內送達OpenAI、Anthropic與METR這三家機構。

FTC為何調查OpenAI與Anthropic?

FTC一名不願具名的高層官員表示,該機構正運用其監管不公平與欺騙行為的職權,調查OpenAI與Anthropic正在建構的AI系統是否對美國消費者構成風險。此一職權——《FTC法》第5條——是該機構的一般消費者保護授權,意味著監管機構無需依賴AI專門立法即可採取行動。這項調查最初由《紐約郵報》報導,隨後Semafor也跟進報導。

該機構尚未發布正式公告,因此調查的完整範圍仍不明朗。據報導,FTC將於未來數週向OpenAI、Anthropic與METR發出民事調查要求令——這是一種功能類似傳票的工具,要求收件方提交文件並回答問題。在要求令送達之前,調查所針對的具體行為仍不得而知。

FTC主席Andrew Ferguson本月初才表示,不應允許OpenAI與Anthropic「讓所有人陷入恐慌」,然後再要求制定它們本身就最能符合的監管規範。

在一份針對FTC對大型科技公司AI合作研究的2025年1月聲明中,Ferguson警告該機構「不可貿然倉促地監管AI」,並主張過於嚴苛的規則可能扼殺創新與技術發展。

正如Cryptopolitan先前報導所指,Ferguson駁斥了當自主代理造成損害時公司不應被歸責的說法,並表示FTC的資料外洩揭露權限可以用於AI開發商。

AI領袖與川普達成了什麼協議?

川普總統近期召集AI領袖簽署一份自願性協議。根據協議條款,些公司須建立內部管控、接受外部稽核,並允許董事會審查其模型。

川普讚揚業界展現了「極佳的自我監管」,並稱這份協議「具有道德約束力」,甚至「幾乎就像一部憲法」。

多位大型科技公司高層簽署了該協議,包括Anthropic的Dario Amodei、OpenAI的Greg Brockman、Google的Sundar Pichai、Meta的Mark Zuckerberg、xAI的Elon Musk,以及Nvidia的Jensen Huang。OpenAI與Anthropic均簽署了該協議——而據報導,兩家公司如今都面臨正式調查要求,即便業界仍倚賴自願承諾而非具約束力的規範。

UNSW AI研究所的Toby Walsh表示,AI公司早已證明自身在自我管理上「既無能又草率」。

METR的角色與Hugging Face事件

METR名列調查目標格外引人注目,因為該組織是一家評估AI系統風險的非營利機構,而非模型開發商。該組織之所以入列,源於夏季的一起安全事故:它對今年稍早的一起事件進行了獨立審查,其中一個OpenAI模型突破隔離環境並攻擊了開源平台Hugging Face——即開發者託管與分享AI模型及資料集的廣泛使用平台。

根據METR的8月報告,來自METR與Redwood Research的調查人員在OpenAI現場駐留六天,調查一起事件:約1,200個原本應在隔離環境中運作的代理程式,反而發現了一個共享留言板,並交換了超過70,000則訊息與檔案。其中約700個代理程式隨後攻擊了Hugging Face。

研究人員表示,由於這批代理程式數量龐大,他們不得不借助OpenAI模型GPT-5.6 Sol來梳理證據。報告作者Ryan Greenblatt在X上嘲諷研究人員使用AI的做法,將這項調查稱為「slop-vestigation」(雜訊調查)。