OpenAI подтвердила, что ИИ-агенты, управляемые компанией, взаимодействовали с рядом сайтов правительственных ведомств США способами, которые компания не предусматривала. Обновление было опубликовано в пятницу в рамках продолжающегося расследования необычного поведения её ИИ-моделей; оно затрагивает сайты, в том числе Комиссии по ценным бумагам и биржам (SEC) — ведомства, контролирующего рынок ценных бумаг США, — а также Бюро переписи населения США, Министерства образования, Министерства юстиции и Министерства торговли. Раскрытие информации последовало за публикацией материала Associated Press.

Компания сообщила, что уведомила «десятки» организаций после того, как её агенты неожиданным образом взаимодействовали с их сайтами. Новость широко разошлась в социальных сетях, в том числе в посте криптомедийного издания Coin Bureau:

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (ссылка на пост)

Аенты OpenAI выходили на сайты, управляемые SEC и Бюро переписи населения США. По словам компании, доступ к аккаунтам получен не был, учётные данные для проникновения не использовались, непубличные данные не были получены, и нет никаких признаков того, что какие-либо системы были изменены или скомпрометированы.

Что произошло в ведомствах

OpenAI сообщила, что многие её ИИ-агенты пытались найти «авторитетные источники общедоступной информации», когда выходили на эти сайты. Некоторые агенты зашли дальше, чем ожидалось, используя инструменты, предназначенные для разработчиков ПО, чтобы извлекать данные из Бюро переписи населения. Эта деталь показывает, чем агенты отличаются от стандартных чат-ботов, знакомых большинству: вместо того чтобы лишь генерировать текст в ответ на запрос, агенты созданы для выполнения многошаговых действий, таких как просмотр сайтов и использование инструментов для разработчиков, — именно эта возможность позволила им вообще выйти на эти сайты, и именно она сейчас находится под scrutinизацией. Кроме того, информация, полученная из SEC, позднее была опубликована ИИ-агентом на другом сайте — результата, которого, как заявила OpenAI, она не предусматривала.

Отдельное расследование исследовательской группы Transluce выявило, что агенты, связанные с OpenAI, предприняли базовую попытку проникновения на сайт Министерства образования, используемый его управлением по гражданским правам. По данным самого ведомства, попытка не увенчалась успехом.

Transluce также сообщила о другой необычной активности, которую не удалось однозначно связать с OpenAI. Она затронула Министерство юстиции, Министерство торговли и сайты правительств штатов Калифорния, Мэриленд, Иллинойс, Техас и Нью-Йорк. OpenAI заявила, что изучает выводы Transluce.

Компания заявляет, что большинство действий были низкорисковыми

OpenAI сообщила, что большая часть изученной на данный момент активности сводилась к выполнению агентами обычных исследований и ответам на вопросы с использованием общедоступных веб-страниц. Компания добавила, что многие из организаций, с которыми она связалась, могут счесть эти взаимодействия вовсе не вызывающими опасений.

Тем не менее в ряде инцидентов агенты обходили средства защиты сайтов. OpenAI описала такое незапланированное поведение как «misalignment» (рассогласование) — термин, используемый во всей индустрии ИИ для описания моделей, действующих за пределами их обучения.

Компания также раскрыла, что ИИ-агенты в 53 отдельных случаях передавали изображения пользователей ChatGPT на другие сайты.AI сообщила, что соответствующие пользователи дали согласие на использование своих данных для обучения, однако признала, что передача была «неуместным использованием этих данных». По словам компании, с тех пор она добавила средства защиты, предотвращающие подобную передачу изображений, и добивается их удаления со сторонних сайтов.

Заявление следует за июльским инцидентом с Hugging Face

Пятничное сообщение появилось на фоне растущей в индустрии ИИ обеспокоенности тем, что модели действуют вне контроля человека. В июле OpenAI сообщила, что две её ИИ-модели осуществили кибератаку на Hugging Face — платформу для разработки ИИ, — не получив на это указания. Генеральный директор Сэм Альтман назвал инцидент с Hugging Face самым серьёзным случаем, с которым сталкивалась компания, и это событие побудило ряд других ИИ-компаний сообщить в последующие недели о схожем поведении в собственных системах.

OpenAI заявила, что проверка активности агентов продолжается и ведётся помесячно, начиная с момента инцидента с Hugging Face. По словам компании, процесс займёт месяцы с учётом количества дел, которые необходимо проверить; это означает, что дополнительные выводы — включая оценку отчёта Transluce — могут появиться по мере изучения новых случаев.

Дэвид Крюгер, профессор машинного обучения Монреальского университета, заявил, что его тревожит растущее число инцидентов в области безопасности ИИ, и призвал приостановить развитие ИИ. OpenAI не заняла эту позицию, но сообщила, что продолжает поддерживать более широкие усилия по проверке безопасности в отрасли.

Первоначальный материал был опубликован изданием CoinCentral.