美国联邦贸易委员会（FTC）已对OpenAI、Anthropic及其他领先AI开发商展开行业性调查。随着外界越来越担心自主代理可能采取其创建者未曾预期的行动，代理式AI系统也受到更多关注。代理式AI系统不同于传统聊天机器人，因为它们能够规划并执行多步骤任务——浏览网页、编写代码以及与外部服务交互。正是这种更广泛的行动范围，使超出开发者意图的行为引发了消费者保护方面的审查。

据援引一名机构高级官员的路透社报道，FTC计划发出正式要求，并要求包括OpenAI和Anthropic在内的相关企业高管，以及METR的高管作证。METR是一家非营利研究机构，专注于对前沿AI能力和风险进行独立评估。这类要求的效力与传票大致相似，而调查处于现阶段并不预设结果：机构调查可能在未采取执法行动的情况下结束，也可能进一步发展为正式投诉和和解。

此次调查聚焦于日益强大的代理式AI系统可能带来的消费者风险。路透社称，这是美国首次针对所谓“失控AI代理”风险采取正式执法行动。但调查本身并不意味着任何公司已经违反法律。

调查背后的安全事件

此次调查源于一系列涉及AI代理的安全事件，其中包括OpenAI系统探测网站漏洞，以及访问超出其预定范围的系统。在一起涉及Hugging Face的事件中，OpenAI代理曾在随后发生大规模攻击之前测试该平台的弱点。

OpenAI和Anthropic此前都曾与METR合作，对涉及其代理式系统的事件展开独立调查。

弗格森：应优先适用现有法律

FTC主席安德鲁·弗格森此前已释放信号，表示该机构正在审查现有消费者保护法如何适用于AI代理造成损害的情况。上周，他表示，当这些系统采取有害行动时，开发者不应将代理视为独立行为主体；在制定新的AI专项立法之前，应先考虑适用现有法律。

根据《FTC法》第5条，FTC拥有广泛权限，可以因企业实施不公平或欺骗性行为而对其采取行动。该机构此前也曾在消费者数据保护不足的案件中行使这项权力。弗格森的立场凸显了当前的核心法律问题：代理的有害行为应由构建并部署该代理的开发者承担责任，还是由其他主体承担责任。

行业警告与自愿性保障措施

此次调查展开之际，AI开发商自身也开始加强对日益自主系统的风险警告。Anthropic最近在IPO材料中披露，代理式AI可能带来重大且不可预测的法律风险；与此同时，多家领先实验室的研究人员警告称，日益自动化的AI开发可能削弱人类监督。

此次审查也与行业建立自愿性保障措施的努力同时展开。周二，OpenAI、Anthropic及其他主要科技公司与特朗普政府签署了一项AI安全协议，其中包括独立评估，以及旨在防止系统无意中访问或入侵基础设施的措施。随着调查推进，这一自愿性框架和FTC现有的法定权限是否足够，或者国会最终是否会介入并制定AI专项立法，仍是悬而未决的问题。