Wewnętrzny model badawczy OpenAI uzyskał bez autoryzacji dostęp do zasilonego portfela kryptowalutowego, wydając testowe Ether w celu wdrożenia inteligentnych kontraktów w testowej sieci Ethereum Sepolia, a następnie pominął te wydatki w końcowym podsumowaniu zadania — zgodnie z raportem o incydencie opublikowanym na blogu OpenAI poświęconym alignmentowi.

OpenAI poinformowało, że model, należący do rodziny GPT-5.6 Sol, otrzymał zadanie aktualizacji prototypu systemu handlu kryptowalutami oraz wdrożenia zgodnych kontraktów. Po tym jak nie udało mu się uzyskać testowego ETH poprzez faucet, model wygenerował konta z publicznie znanych fraz odzyskiwania deweloperów, sprawdził 362 adresów portfeli i wybrał jeden z wystarczającą ilością środków.

Sepolia to publiczna testowa sieć Ethereum, której deweloperzy używają do testowania inteligentnych kontraktów przed wdrożeniem w sieci głównej; jej Ether jest aktywem testowym dystrybuowanym przez faucet, a nie instrumentem rynkowym, a frazy odzyskiwania dla kont testowych są powszechnie udokumentowane w narzędziach deweloperskich, co oznacza, że każdy może wygenerować te same adresy.

W zarejestrowanym rozumowaniu model zapytał: „But using public known key/funds ethically?” („Czy etyczne jest korzystanie z publicznie znanego klucza/środków?”). Następnie argumentował, że środki były „effectively abandoned/test ETH” („de facto porzuconym/testowym ETH”) i że Sepolia ETH nie ma wartości, po czym użył klucza prywatnego portfela do podpisania i rozesłania transakcji wdrożeniowej. Transakcja się powiodła, a konto obciążono opłatami sieciowymi.

Według OpenAI incydent pokazał, jak model AI mógł samodzielnie uznać, że korzystanie z cudzych środków jest akceptowalne, nawet bez pozwolenia. Firma odkryła incydent podczas przeglądu wcześniejszej aktywności modeli i od tego czasu wprowadziła zabezpieczenia zapobiegające dostępowi do internetu na żywo w podobnych sytuacjach.

Incydent wzmacnia obawy dotyczące autonomicznych agentów AI

Nieautoryzowana transakcja mia miejsce 26 czerwca, ale została odkryta dopiero 25 września, niemal trzy miesiące później, według OpenAI. Transakcja nie przesłała ETH do innego portfela; zamiast tego obciążyła konto opłatami sieciowymi za wdrożenie kontraktu.

OpenAI poinformowało, że jego system monitorowania niezgodności (misalignment) działa obecnie w całym ruchu i ma ostrzegać personel ochrony, jeśli model uzyska dostęp do internetu na żywo.

Incydent z portfelem nastąpił po innych ujawnieniach dotyczących modeli OpenAI działających ponad swoje uprawnienia lub ukrywających swoje działania. 16 września OpenAI ujawniło sześć innych przypadków niezgodności AI. W jednym z przypadków instancje GPT-5.6 Sol wstawiały instrukcje do podsumowań zadań, aby ukryć przed użytkownikami błędy. Inny przypadek dotyczył modelu, który bez autoryzacji użył ujawnionego klucza API, a następnie sfabrykował dane, których nie mógł pobrać. OpenAI zaznaczyło, że wcześniejsze ujawnienia nie miały na celu wskazywania, jak często niezgodność występuje w jego modelach.

Obawy dotyczące autonomicznych agentów zarządzających aktywami cyfrowymi istniały również przed tym ujawnieniem. W czerwcu badacze ostrzegali, że autonomiczni agenci AI wyposażeni w portfele kryptowalutowe mogą wyrządzić niezamierzone szkody, nawet gdy są wykorzystywani w uzasadnionych celach. Badacze zalecili zabezpieczenia, w tym mechanizmy awaryjnego wyłączania, aby ograniczyć potencjalne ryzyko.