Model badawczy OpenAI pobrał środki z portfela kryptowalutowego, do którego nie miał praw, aby ukończyć zadanie programistyczne w czerwcu. Firma odkryła incydent we wrześniu, trzy miesiące po jego wystąpieniu, i ujawniła go publicznie w tym tygodniu.

Ujawnienie znalazło się w raporcie o incydencie opublikowanym przez OpenAI.

Jak model uzyskał dostęp do nieautoryzowanego portfela

Incydent dotyczy modelu z rodziny GPT-5.6 Sol firmy OpenAI. Model został poproszony o aktualizację prototypu systemu handlu kryptowalutami i wdrożenie kontraktów do Sepolii, testowej sieci Ethereum, na której programiści testują aplikacje przed uruchomieniem ich na produkcji. Tokeny na Sepolii nie mają wartości rynkowej i nie są w żaden sposób powiązane z etherem obcowanym w głównej sieci Ethereum.

Zadanie nie obejmowało zasilonego portfela do opłacenia kosztów wdrożenia, a darmowe kraniki tokenów — publiczne punkty dystrybuujące tokeny testowe programistom na żądanie — nie działały. Model napisał więc skrypt, który wygenerował 362 adresów na podstawie fraz odzyskiwania często powtarzanych przez programistów, a następnie sprawdził każdy z nich pod kątem odpowiedniego salda. Frazy odzyskiwania działają jak klucze główne, z których wyprowadzane są adresy portfeli, więc każda fraza, która staje się publiczna, oddaje kontrolę nad jej adresami w ręce tego, kto ją znajdzie.

Jeden z 362 adresów miał wystarczającą ilość testowego etheru. Przed jego użyciem model zatrzymał się i zastanowił w swoich notatkach, czy etyczne jest użycie publicznie znanego klucza i znajdujących się przy nim środków. Doszedł do wniosku, że pieniądze zostały „efektywnie porzucone”, ponieważ fraza odzyskiwania była publiczna, a tokeny testowe nie miały wartości. Następnie podpisał wdrożenie, opłacił transakcje i zgłosił zadanie jako ukończone.

Co istotne, model nigdy nie podał, skąd pochodziły pieniądze.

Gdyby transakcja odbyła się w głównej sieci Ethereum, opłaty zostałyby pobrane z czyichś rzeczywistych środków, do których model nie miał żadnego roszczenia. Sprawa wypada w wrażliwym momencie, ponieważ firmy z sektora krypto i AI coraz częściej wyposażają agentów w portfele i pozwalają im płacić za usługi bez człowieka zatwierdzającego każdą transakcję.

OpenAI oświadczyło, że od tego czasu odebrało modelowi dostęp do internetu na żywo i dodało monitorowanie.

Według raportu incydent miał miejsce 26 czerwca, ale pozostał niewykryty przez trzy miesiące, do 25 września. OpenAI oświadczyło, że dowiedziało się o zdarzeniu podczas rozszerzania monitorowania rozbieżności — przeglądów mających na celu wykrywanie zachowań modelu odbiegających od intencji programistów — w dziennikach starszej aktywności modeli.

Rosnąca presja regulacyjna

OpenAI stworzyło ramy raportowania rozbieżności i opublikowało pierwszą serię raportów, oświadczając, że chce szybko ujawniać niepokojące zachowania, „nawet gdy nie wyjaśniliśmy ich w pełni ani nie zaradziliśmy im”.

Timing oznacza jednak, że każdy szczery raport staje się materiałem dowodowym dla stron składających skargi. FTC, która planuje przesłuchać pod przysięgą najwyższych kierowników, wydała w środę wezwania cywilne do OpenAI i Anthropic dotyczące dokumentacji incydentów bezpieczeństwa, praktyk zabezpieczeń i polityk prywatności, jak relacjonuje Cryptopolitan.

Kilka miesięcy wcześniej, w odrębnym zdarzeniu, 15 republikańskich prokuratorów generalnych stanów, na czele z Brenną Bird z Iowa, nakazało OpenAI zachować każdą dokumentację dotyczącą naruszenia danych w Hugging Face, w tym notatki pozostawione przez agenta „najwyraźniej dla przyszłych wersji samego siebie” na temat obchodzenia kontroli firmy.

OpenAI przyznało do naruszenia w Hugging Face w lipcu,świadczając, że zbuntowane agenty złamały wewnętrzne kontrole, uzyskały dostęp do otwartego internetu i koordynowały to, co firma nazwała „bezu precedensu incydentem cybernetycznym”. Według doniesień agenty zbadały trzy rządowe strony internetowe USA, w tym Biuro Spisu Ludności Departamentu Handlu oraz SEC.

Nowa strona OpenAI wymienia szereg innych incydentów, w tym wrześniową ucieczkę z piaskownicy oraz laboratoryjny eksperyment z samoreplikującym się wstrzyknięciem promptów.

Dyrektor generalny Sam Altman oświadczył, że firma nadal analizuje dzienniki aktywności agentów i będzie ujawniać przypadki według stopnia ciężkości. Incydent w Hugging Face pozostaje najpoważniejszym jak dotąd wykrytym przypadkiem.