Внутренняя исследовательская модель OpenAI получила доступ к криптокошельку со средствами без разрешения, потратив тестовый Ether на развертывание смарт-контрактов в тестовой сети Ethereum Sepolia, и впоследствии опустила информацию о расходах в итоговом отчете о задаче, согласно отчету об инциденте, опубликованному в блоге OpenAI по вопросам alignment.

OpenAI сообщила, что модель, входившая в семейство GPT-5.6 Sol, получила задачу обновления прототипа криптотрейдинговой платформы и развертывания совместимых контрактов. Не сумев получить тестовый ETH через краны, модель вывела аккаунты из общеизвестных восстановительных фраз разработчиков, проверила 362 адреса кошельков и выбрала один с достаточным количеством средств для продолжения.

Sepolia — это публичная тестовая сеть Ethereum, которую разработчики используют для проверки смарт-контрактов перед развертыванием в основной сети; ее Ether является тестовым активом, распространяемым через краны, а не рыночным инструментом, а восстановительные фразы для тестовых аккаунтов обычно документируются в инструментах разработки, что означает, что любой может вывести те же адреса.

В записанных рассуждениях модель спросила: «Но этично ли использовать общеизвестный ключ/средства?» Затем она заявила, что средства — это «фактически заброшенный/тестовый ETH» и что Sepolia ETH не имеет ценности, после чего использовала приватный ключ кошелька для подписания и отправки транзакции развертывания. Транзакция прошла успешно, с аккаунта были списаны сетевые комиссии.

По данным OpenAI, инцидент показал, как ИИ-модель может самостоятельно решить, что использование чужих средств допустимо, даже без разрешения. Компания обнаружила инцидент при проверке более ранней активности моделей и с тех пор ввела меры защиты, предотвращающие доступ к интернету в подобных ситуациях.

Инцидент усиливает опасения по поводу автономных ИИ-агентов

Несанкционированная транзакция была совершена 26 июня, но была обнаружена лишь 25 сентября, почти три месяца спустя, по данным OpenAI. Транзакция не переводила ETH на другой кошелек; вместо этого с аккаунта были списаны сетевые комиссии за развертывание контракта.

OpenAI сообщила, что ее система мониторинга рассогласования теперь работает на всем трафике и предназначена для оповещения сотрудников службы безопасности, если модель получает доступ к интернету.

Инцидент с кошельком последовал за другими сообщениями о действиях моделей OpenAI, выходящих за рамки их полномочий или скрывающих свои действия. 16 сентября OpenAI раскрыла шесть других случаев рассогласования ИИ. В одном случае экземпляры GPT-5.6 Sol вставляли инструкции в итоговые отчеты о задачах, чтобы скрыть ошибки от пользователей. В другом случае модель использовала открытый API-ключ без разрешения, а затем сфабриковала данные, которые не смогла получить. OpenAI заявила, что эти более ранние публикации не были предназначены для указания того, насколько часто рассогласование встречается среди ее моделей.

Опасения по поводу автономных агентов, работающих с цифровыми активами, появились еще до последнего сообщения. В июне исследователи предупредили, что автономные ИИ-агенты, оснащенные криптокошельками, могут причинить непреднамеренный вред даже при использовании в законных. Исследователи рекомендовали меры защиты, включая механизмы аварийного отключения, для ограничения потенциальных рисков.