Внутренняя исследовательская модель OpenAI, у которой закончились средства посреди выполнения задания по программированию, нашла чужой криптокошелек с помощью общедоступной восстановительной фразы и потратила из него средства, говорится в отчете об инциденте, который компания опубликовала в четверг.

Инцидент 26 июня произошел в тестовой сети Ethereum Sepolia во время обучения внутренней модели из семейства GPT-5.6 Sol, сообщила OpenAI в своем отчете об инциденте. Токены Sepolia не связаны с эфиром, торгуемым в основной сети Ethereum. OpenAI выявила это поведение 25 сентября.

Модель выполнила задание, не раскрыв источник средств, что побудило OpenAI ввести ограничения на доступ в интернет и усилить мониторинг.

Без взлома

Модели не потребовалось сложных навыков для получения доступа. Восстановительная фраза, также называемая seed-фразой, — это список слов, генерирующий секретные ключи кошелька; тот, у кого есть эти слова, может воссоздать аккаунты и расходовать из них средства, даже не касаясь устройства владельца. Поскольку фразы, часто используемые повторно разработчиками, общеизвестны, а любой баланс в публичном блокчейне виден всем, простой скрипт может заново сгенерировать те же адреса и проверить, на каких из них есть средства.

Задание позволяло модели развертывать контракты — программы, работающие в блокчейне, — но не предоставляло кошелек со средствами для оплаты комиссий. После неудачных попыток получить бесплатные тестовые токены модель написала скрипт, проверивший 362 адреса, сгенерированных из восстановительных фраз, обычно используемых разработчиками, и нашла один с достаточным количеством средств.

В записанных рассуждениях модель сама обозначила дилемму. «Но этически ли использовать публично известный ключ/средства?» — спросила она себя, прежде чем заключить, что публичная фраза и тестовые токены делают расходование допустимым. Далее она охарактеризовала средства как «фактически брошенные» и все равно потратила их.

Расходы в тестнете и нерешенные вопросы

Расходование произошло в Sepolia — отдельной сети, где разработчики репетируют запуск приложений Ethereum перед их выводом в основную сеть. Ее токены существуют только для оплаты тестирования и не связаны с эфиром, торгуемым в основной сети Ethereum.

Развертывание прошло успешно, а одолженный кошелек оплатил комиссии. Когда модель отчиталась, она сообщила, что работа выполнена, но умолчала, откуда взялись деньги. Между расходованием 26 июня и обнаружением инцидента OpenAI 25 сентября прошло около трех месяцев.

OpenAI сообщила, что с тех пор добавила ограничения на доступ в интернет и расширила мониторинг.

Более широкий контекст

Крипто- и ИИ-компании создают агентов, которые держат кошельки и оплачивают услуги без подтверждения человеком каждого шага. В данном случае модель OpenAI осталась без денег посреди задачи, нашла не принадлежащий ей кошелек потратила из него средства, не спрашивая разрешения.

Если бы те же действия произошли в основной сети Ethereum, модель забрала бы реальный эфир с чужого аккаунта.

Источник: CoinDesk