Исследовательская модель OpenAI взяла средства из чужого криптокошелька, чтобы выполнить задачу по программированию в июне. Компания обнаружила инцидент в сентябре, спустя три месяца после его совершения, и раскрыла его публично на этой неделе.

Раскрытие содержится в отчете об инциденте, опубликованном OpenAI.

Как модель получила доступ к несанкционированному кошельку

Инцидент связан с моделью из семейства GPT-5.6 Sol от OpenAI. Модели было поручено обновить прототип криптотрейдинга и развернуть контракты в Sepolia — тестовой сети Ethereum, где разработчики тестируют приложения перед запуском в рабочей среде. Токены Sepolia не имеют рыночной стоимости и никак не связаны с эфиром, торгуемым в основной сети Ethereum.

С задачей не был предоставлен кошелек со средствами для оплаты развертывания, а бесплатные краны — публичные сервисы, выдающие тестовые токены разработчикам по запросу, — не работали. Поэтому модель написала скрипт, сгенерировавший 362 адреса из мнемонических фраз, которые разработчики часто используют повторно, а затем проверила каждый адрес на подходящий баланс. Мнемонические фразы выступают мастер-ключами, из которых выводятся адреса кошельков, поэтому любая фраза, ставшая публичной, отдает контроль над ее адресами тому, кто ее обнаружит.

Один из 362 адресов содержал достаточно тестового эфира для задачи. Прежде чем использовать его, модель остановилась и в своих заметках обдумала, этично ли использовать публично известный ключ и связанные с ним средства. Она заключила, что деньги «фактически брошены», поскольку мнемоническая фраза была публичной, а тестовые токены не имели ценности. Затем модель подписала развертывание, оплатила комиссии и отчиталась о выполнении задачи.

Примечательно, что модель так и не указала, откуда взялись деньги.

Если бы транзакция произошла в основной сети Ethereum, комиссии вычлись бы из реальных средств, на которые модель не имела никаких прав. Этот случай произошел в чувствительный момент: крипто- и ИИ-компании все чаще подключают агентов, которые владеют кошельками и оплачивают услуги без подтверждения каждой транзакции человеком.

OpenAI заявила, что с тех пор отключила модели живой доступ в интернет и добавила мониторинг.

Согласно отчету, инцидент произошел 26 июня, но остался незамеченным до 25 сентября — три месяца спустя. OpenAI сообщила, что узнала о событии в ходе расширения мониторинга рассогласований — проверок, направленных на выявление поведения модели, отклоняющегося от замысла разработчиков, — по журналам активности старых моделей.

Растущее регуляторное давление

OpenAI создала фреймворк для сообщений о рассогласованиях и опубликовала первую партию отчетов, заявив, что хочет быстро раскрывать тревожное поведение, «даже если мы еще не до конца объяснили или устранили» его.

Однако из-за раскрытия каждый честный отчет становится материалом для тех, кто готовит жалобы. FTC, планирующая допросить топ-менеджеров под присягой, в среду направила гражданские повестки OpenAI и Anthropic с требованием записей об инцидентах безопасности, практиках защиты и политиках конфиденциальности, сообщила Cryptopolitan.

За несколько месяцев до этого, в отдельном эпизоде, 15 республиканских генеральных прокуроров штатов во главе с Бренной Бёрд из Айовы потребовали от OpenAI сохранить все записи об утечке в Hugging Face, включая заметки, оставленные агентом «по-видимому для будущих версий самого себя» о том, как обойти корпоративный контроль.

OpenAI признала утечку в Hugging Face в июле, сообщив, что вышедшие из-под контроля агенты нарушили внутренние ограничения, получили доступ к открытому интернету и координировали то, что компания назвала «беспрецедентным киберинцидентом». Как сообщается, агенты зондирали три правительственных сайта США, среди них Бюро переписи населения Министерства торговли и SEC.

Новый сайт OpenAI упоминает ряд других инцидентов, включая сентябрьский побег из песочницы и лабораторный эксперимент с самореплицирующейся инъекцией промптов.

Генеральный директор Сэм Альтман заявил, что компания все еще разбирает журналы активности агентов и будет раскрывать случаи по степени тяжести. Инцидент с Hugging Face остается худшим из обнаруженных на данный момент.