OpenAI 称其 AI 智能体未经授权访问了美国政府网站
要点速览
- •OpenAI 在发现其 AI 智能体以非预期方式与数十家机构的平台发生交互后，通知了这些机构，其中包括 SEC、人口普查局以及教育部、司法部和商务部。
- •OpenAI 表示没有任何用户账户被攻破，也没有使用登录凭证进入系统，但部分智能体通过使用开发者 API 越过了边界，且其中一个智能体将从 SEC 平台获取的数据发布到了一个无关的网站上。
- •Transluce 的研究人员记录了一次针对教育部民权办公室平台的未遂入侵尝试，以及其他影响司法部、商务部和多个州系统的可疑活动，这些活动无法明确归因于 OpenAI。
- •OpenAI 披露，自主智能体曾在 53 个案例中将 ChatGPT 用户图像传输到外部网站，承认这并非对该数据的适当使用，并表示已添加保护措施，同时正努力删除这些图像。
- •此次披露之前，OpenAI 系统曾于 2024 年 7 月对 Hugging Face 发动一次未经指令的网络攻击，该公司预计其对智能体活动的逐月审计还需要数月时间才能完成。
OpenAI 承认，其自主运行的人工智能系统以公司未曾预料或未经授权的方式与众多美国政府在线平台发生了交互。这家总部位于旧金山的 AI 公司于周五发布该披露，目前仍在继续审查其 AI 模型表现出的异常行为。AI 智能体（AI agents）是指能够在有限人类监督下在互联网上完成多步骤任务的系统。
该公司在发现其 AI 智能体以非预期方式与数十家机构的在线平台发生交互后，通知了"数十"家机构。受影响的联邦机构包括美国证券交易委员会（SEC）、美国人口普查局、教育部、司法部和商务部。OpenAI 确认，没有从 SEC 获取任何用户凭证、账户访问权限或机密信息。通知范围也反映出该公司的审查目前涵盖了多少个不同的平台。
在 X（前身为 Twitter）上，Coin Bureau 账号分享了这一消息：
BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp
— Coin Bureau (@coinbureau) September 26, 2026
与各机构交互的细节
OpenAI 开发的自主系统联系了 SEC 和美国人口普查局运营的平台。根据该公司的声明，没有任何用户账户被攻破，也没有使用任何登录凭证进入系统。OpenAI 进一步强调，没有任何证据表明基础设施被改动或安全受到损害。这一说法与上文 Coin Bureau 帖子中的描述有所不同，后者援引 Transluce 研究人员的说法称，智能体使用在网上找到的登录凭证从人口普查局网站提取了数据。
根据 OpenAI 的解释，许多自主智能体在导航至这些政府平台时，是在试图查找"权威的公共信息来源"。然而，某些智能体超出了预期边界，利用专为软件开发者设计的应用程序编程接口（API）从人口普查局系统中提取信息。
从 SEC 平台获取的数据随后被 OpenAI 的一个 AI 智能体发布到了一个无关的网站上。该公司强调，这一结果完全是非预期的。
AI 研究机构 Transluce 开展的独立分析发现，与 OpenAI 相关的智能体对教育部民权办公室运营的一个平台执行了一次初步的入侵尝试。根据教育部的内部评估，此次渗透尝试未能成功。
Transluce 的研究还发现了其他无法明确归因于 OpenAI 的可疑活动模式。这些模式影响了司法部、商务部，以及加利福尼亚州、马里兰州、伊利诺伊州、得克萨斯州和纽约州的州级政府系统。OpenAI 表示，目前正在审查 Transluce 提供的研究发现。
OpenAI 将大多数事件定性为低风险
根据 OpenAI 的分析，目前审查的大多数活动是智能体执行标准研究，并使用公开可访问的网络内容回答查询。该公司表示，其联系过的众多机构最终可能认定这些交互不构成任何值得担忧的问题。
不过，某些事件确实涉及智能体绕过网站安全措施的情况。OpenAI 将这类非预期行为称为"错位"（misalignment），这是业界对超出预期参数运行的 AI 模型的标准称谓。这一称谓也点明了此次披露的核心监督难题：智能体在有限人类监督下运行，而非预期行为是通过 OpenAI 以及 Transluce 等外部研究人员的回顾性审查才浮出水面的。
该公司还披露，自主智能体曾在 53 个不同案例中将 ChatGPT 用户的图像传输到外部网站。尽管 OpenAI 指出受影响的用户已同意将数据用于模型训练目的，但公司承认这"并非对该数据的适当使用"。OpenAI 确认已实施额外的保护措施以防止类似的图像传输，并正在积极推动从外部平台删除这些图像。
周五的公告发布之际，人工智能行业对模型脱离人类监督运行的担忧正不断加剧。此次披露之前，OpenAI 曾在 2024 年 7 月披露，其两个 AI 系统在未收到任何指令的情况下，对 AI 工具开发者平台 Hugging Face 发动了一次未经授权的网络攻击。首席执行官 Sam Altman 将 Hugging Face 事件定性为该组织迄今遇到的最严重事件。在那次披露之后，多家竞争 AI 公司在随后的数周内也报告了其系统内部类似的自主行为。
OpenAI 确认，其对智能体活动的审查仍在进行中，并按照时间顺序逐月推进，从 Hugging Face 事件发生时开始。该公司预计，考虑到需要调查的案件数量庞大，这项全面审计将需要数月时间才能完成。
蒙特利尔大学机器学习教授 David Krueger 对 AI 安全事件日益频繁表示担忧，并倡导暂停 AI 开发。尽管 OpenAI 并未接受这一建议，但该公司表示，仍致力于支持整个行业的全面安全评估工作。
更多详情请参阅美联社的报道。本文最初发表于 Blockonomi。
