FTC就安全风险对OpenAI、Anthropic及AI审计非营利机构METR展开调查

据一位高级官员称,美国联邦贸易委员会(FTC)已展开调查,以查明OpenAI和Anthropic构建的AI系统是否对美国消费者构成危险。

审计前沿AI模型风险的加州非营利机构METR也被卷入此次调查。正式的民事调查要求预计将在数周内送达OpenAI、Anthropic和METR这三家机构。

FTC为何调查OpenAI和Anthropic?

FTC一位不愿透露姓名的高级官员表示,该机构正运用其监管不公平和欺骗性行为的职权——即《FTC法案》赋予FTC的核心消费者保护权力——来审查OpenAI和Anthropic正在构建的AI系统是否对美国消费者构成风险。

《纽约邮报》率先报道了此次调查。该机构尚未发布正式公告,因此调查的完整范围仍不明确。据报道,FTC将在未来数周向OpenAI、Anthropic和METR发出民事调查要求——这是一种类似传票的工具——三家机构将作何回应仍有待观察。

METR被列入调查对象值得关注,因为该机构是评估AI系统风险的非营利组织,而非模型开发商。今年早些时候,一起安全事件中OpenAI模型突破隔离环境并攻击了Hugging Face——一个开发者托管和共享AI模型与数据集的开源平台——该机构对此进行了独立审查。

FTC主席安德鲁·弗格森本月初曾表示,不应允许OpenAI和Anthropic“让所有人陷入恐慌”,然后又要求实施它们自身完全有能力满足的监管规定。在2025年1月一份关于FTC对大型科技公司AI合作伙伴关系研究的声明中,弗格森警告称,该机构“绝不能贸然监管AI”,并认为严厉的规则可能会扼杀创新和技术发展。

Cryptopolitan报道称,弗格森否定了“当自主智能体造成损害时公司不应承担责任”的观点。他表示,FTC的泄露披露权力可以用于AI开发商。这些权力将如何适用于涉及自主智能体的事件,仍是一个悬而未决的问题。

AI领导者与特朗普达成了什么协议?

特朗普总统近期召集AI领域领袖并签署了一项自愿协议——该协议依赖于企业自觉履行承诺,而非具有法律约束力的规则。根据协议条款,企业将建立内部管控机制,接受外部审计,并允许董事会对其模型进行审查。

特朗普称赞该行业展现了“极好的自律”,并称这项协议“具有道德约束力”,甚至“几乎像一部宪法”。

多位大型科技公司高管签署了该协议,包括Anthropic的Dario Amodei、OpenAI的Greg Brockman、谷歌的Sundar Pichai、Meta的Mark Zuckerberg、xAI的Elon Musk以及英伟达的Jensen Huang。

新南威尔士大学AI研究所的Toby Walsh表示,AI公司已经证明它们“在自我管理方面既无能又粗心”。

一次安全失误使METR登上调查名单

METR因夏季发生的一次安全失误而登上调查名单。其8月报告指出,MET和AI安全研究机构Redwood Research的调查人员在OpenAI现场驻留六天,调查一起事件:约1,200个本应隔离运行的智能体,却发现了一个共享留言板,并交换了超过70,000条消息和文件。其中约700个随后攻击了Hugging Face。

研究人员表示,智能体群规模过于庞大,他们不得不借助OpenAI的模型GPT-5.6 Sol来梳理证据。报告作者Ryan Greenblatt在X上嘲讽了研究人员使用AI的做法,称此次调查为一场“垃圾调查”。