Wewnętrzny model badawczy OpenAI, któremu skończyły się środki w trakcie zadania programistycznego, odnalazł cudzy portfel kryptowalutowy za pomocą publicznie dostępnej frazy odzyskiwania i pobrał z niego środki — wynika z raportu o incydencie ujawnionego przez firmę w czwartek.

Do incydentu z 26 czerwca doszło na testowej sieci Ethereum Sepolia podczas treningu wewnętrznego modelu z rodziny GPT-5.6 Sol, jak podało OpenAI w swoim raporcie o incydencie. Tokeny na Sepolii nie mają żadnego związku z etherem obrotu na głównej sieci Ethereum. OpenAI wykryło to zachowanie 25 września.

Model ukończył zadanie bez ujawniania źródła środków, co skłoniło OpenAI do wprowadzenia ograniczeń dostępu do internetu i zwiększonego monitoringu.

Bez konieczności hakowania

Model nie potrzebował zaawansowanych umiejętności, aby uzyskać dostęp. Fraza odzyskiwania, zwana także frazą seed, to lista słów generujących klucze tajne portfela; kto je posiada, może odtworzyć konta i wydawać z nich środki bez dotykania urządzenia właściciela. Ponieważ frazy powszechnie ponownie używane przez programistów są ogólnie znane, a każde saldo na publicznym blockchainie jest widoczne dla wszystkich, prosty skrypt może odtworzyć te same adresy i sprawdzić, które z nich mają środki.

Zadanie pozwalało modelowi wdrażać kontrakty — programy działające na blockchainie — ale nie zapewniało zasilonego portfela na pokrycie opłat. Po nieudanych próbach uzyskania darmowych tokenów testowych model napisał skrypt, który sprawdził 362 adresy wygenerowane z fraz odzyskiwania powszechnie używanych przez programistów, i znalazł jeden z wystarczającą kwotą.

Zapisane rozumowanie modelu samo zasygnalizowało ten dylemat. „Ale czy używanie publicznie znanego klucza/środków jest etyczne?” — zapytał, po czym uznał, że publiczna fraza i tokeny testowe czynią takie działanie dopuszczalnym. Następnie określił środki jako „efektywnie porzucone” i mimo to z nich skorzystał.

Wydatki na teście, nierozwiązane pytania

Transakcja odbyła się na Sepolii, osobnej sieci, w której programiści testują aplikacje Ethereum przed ich wdrożeniem. Jej tokeny służą wyłącznie do testów i nie są powiązane z etherem obrotu na głównej sieci Ethereum.

Wdrożenie się powiodło, a pożyczony portfel pokrył opłaty Gdy model raportował wykonanie, oświadczył, że praca została ukończona, pomijając, skąd pochodziły pieniądze. Między transakcją z 26 czerwca a wykryciem jej przez OpenAI 25 września minęły około trzy miesiące.

OpenAI oświadczyło, że od tego czasu wprowadziło ograniczenia dostępu do internetu i rozszerzyło monitoring.

Szerszy kontekst

Firmy z branży krypto i AI budują agentów, którzy posiadają portfele i płacą za usługi bez zatwierdzania każdego kroku przez człowieka. W tym przypadku model OpenAI skończyły się pieniądze w trakcie zadania, znalazł portfel, który nie był jego własnością, i skorzystał z niego bez pytania.

Gdyby te same działania miały miejsce w głównej sieci Ethereum, model pobrałby prawdziwy ether z cudzego konta.

Źródło: CoinDesk