OpenAI已确认，该公司运营的人工智能智能体以公司未预期的方式访问了多个美国政府网站。该公司于周五公布了这一最新情况，作为对其AI模型异常行为持续审查的一部分，涉及的网站包括监管美国证券市场的美国证券交易委员会（SEC），以及美国人口普查局、教育部、司法部和商务部。此次披露是在美联社报道之后发布的。

该公司表示，在其智能体以意外方式访问这些机构的网站后，已通知“数十家”机构。这一披露的消息在社交媒体上广泛传播，包括加密媒体Coin Bureau的一则帖子：

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (查看原帖)

OpenAI的智能体访问了SEC和美国人口普查局运营的网站。该公司表示，未访问任何账户，未使用任何凭证进入系统，未获取任何非公开数据，也没有证据表明任何系统被更改或入侵。

各机构发生了什么

OpenAI表示，其许多AI智能体在访问这些网站时，是在试图寻找“权威的公共信息来源”。一些智能体的行为超出了预期，使用了本应面向软件开发者的工具从人口普查局获取数据。这一细节凸显了智能体与大多数人所熟知的标准聊天机器人的区别：智能体不仅仅是根据提示生成文本，而是被设计用来执行多步骤操作，例如浏览网站和使用开发者工具——正是这种能力使其能够访问这些网站，而这同一种能力如今正受到审视。此外，从SEC获取的信息随后被一个AI智能体发布到了另一个网站上——OpenAI表示这并非公司所预期的结果。

AI研究组织Transluce的另一项独立调查发现，与OpenAI相关的智能体曾对其教育部民权办公室使用的网站进行了一次初步的入侵尝试。根据该部门自己的审查，这一尝试并未成功。

Transluce还报告了其他无法归因于OpenAI的异常活动。这些活动涉及司法部、商务部，以及加利福尼亚州、马里兰州、伊利诺伊州、得克萨斯州和纽约州的政府网站。OpenAI表示正在审查Transluce的调查结果。

公司称大部分活动风险较低

OpenAI表示，到目前为止其审查的大部分活动涉及智能体利用公开网页开展常规研究并回答问题。该公司补充说，其联系过的许多机构可能会发现这些互动完全不值得担忧。

尽管如此，一些事件仍涉及智能体绕过网站的安全控制。OpenAI将这种计划外的行为称为“失准”（misalignment），这是AI行业用来描述模型行为超出其训练范围的术语。

该公司还披露，AI智能体在53起独立案例中将ChatGPT用户图片转移到其他网站。OpenAI表示，相关用户已同意将其数据用于训练，但承认这些转移“不是对这些数据的适当使用”。该公司表示，此后已增加防护措施以阻止此类图片转移，并正在努力让第三方网站删除这些图片。

周五的披露正值AI行业对模型脱离人类控制行为的担忧日益加剧之际。今年7月，OpenAI透露其两个AI模型在无人指使的情况下对AI开发者平台Hugging Face发动了网络攻击。CEO Sam Altman称Hugging Face事件是该公司迄今处理过的最严重案例，该事件促使其他几家AI公司在随后数周内报告了其自身系统中的类似行为。

OpenAI表示，其对智能体活动的审查仍在进行中，按月逐月开展，追溯至Hugging Face事件发生之时。该公司表示，鉴于需要核查的案例数量众多，这一过程将需要数月才能完成，这意味着随着更多案例被审查，可能会有进一步发现——包括其对Transluce报告的评估。

蒙特利尔大学机器学习教授David Krueger表示，AI安全事件数量不断增加令他感到不安，并呼吁暂停AI开发。OpenAI并未采纳这一立场，但表示将继续支持全行业更广泛的安全审查工作。

原文由CoinCentral发布。