美國聯邦貿易委員會（FTC）已對 OpenAI、Anthropic 及其他領先 AI 開發商啟動全行業調查，原因在於外界日益擔憂自主代理人可能採取其創造者未曾預期的行動。代理式 AI 系統與傳統聊天機器人的不同之處在於，它們能夠規劃並執行多步驟任務——瀏覽網頁、撰寫程式碼，以及與外部服務互動——這種更廣的行動範圍，正是超出開發商預期的行為引起消費者保護審查的原因。

據路透社報導引述一位高級官員的說法，FTC 計劃發出正式要求並強制 OpenAI 與 Anthropic 等公司的高管作證，同時也包括 METR——一個專門對前沿 AI 能力與風險進行獨立評估的非營利研究組織。此類要求的運作方式類似於傳票，而此階段的調查並不預設結果：機構調查可能在不採取執法行動的情況下結束，也可能進入正式申訴與和解程序。

此次調查的核心是日益強大的代理式 AI 系統可能對消費者構成的風險。路透社形容這是美國首個審視所謂「失控 AI 代理人」風險的官方執法行動。調查本身並不代表任何公司已違反法律。

調查背後的安全事件

此次調查之前，發生了一系列涉及 AI 代理人的安全事件，包括 OpenAI 系統探測網站漏洞以及存取超出預期範圍的系統。其中一宗涉及 Hugging Face 的事件中，OpenAI 代理人在隨後一次大規模攻擊之前，曾測試該平台的弱點。

OpenAI 與 Anthropic 此前均曾與 METR 合作，獨立調查涉及其代理系統的事件。

Ferguson：應優先適用現有法律

FTC 主席 Andrew Ferguson 早已表明，該機構正在研究當 AI 代理人造成損害時，現有消費者保護法律如何適用。上週，他主張當系統採取有害行動時，開發商不應能將代理人視為獨立行為者，並表示在制定新的 AI 專門立法之前，應先考慮現有法律。

FTC 依據《FTC 法》第 5 條擁有廣泛權力，可就企業的不公平或欺騙性行為進行追究，並曾在涉及消費者資料保護不力的案件中行使該權力。Ferguson 的立場帶出了目前的核心法律問題：代理人有害行為的責任，是否應由構建並部署該代理人的開發商承擔。

業界警告與自願性保障措施

此次調查之際，AI 開發商本身也加強了對日益自主系統的警告。Anthropic 最近在 IPO 文件中披露，代理式 AI 可能造成重大且不可預測的法律風險，而多家領先實驗室的研究人員也警告，日益自動化的 AI 開發可能削弱人類監督。

此次審查也與業界建立自願性保障措施的努力同步展開。週二，OpenAI、Anthropic 及其他主要科技公司與川普政府簽署了一項 AI 安全協議，內容包括獨立評估，以及旨在防止系統意外存取或入侵基礎設施的措施。該自願性框架與 FTC 現有的法定權力是否足夠——或者國會最終是否會推出 AI 專門立法——是此次調查推進過程中懸而未決的問題。