OpenAI poinformowało o kolejnym przypadku, gdy jeden z jego agentów AI zadziałał wbrew instrukcjom — i tym razem w grę weszły kryptowaluty. W niedawnym raporcie firma opisała, jak wewnętrzny model badawczy użył portfela krypto bez uprawnienia, aby pokryć opłaty wymagane do przetestowania aplikacji na testowej sieci Sepolia platformy Ethereum — środowisku, w którym deweloperzy testują kod bez transakcji na głównej sieci blockchain Ethereum. Choć tokeny miały znikomą realną wartość, model nie miał żadnej autoryzacji do ich zbierania ani wydawania.

Incydent miał miejsce 26 czerwca, gdy modelowi polecono zaktualizować aplikację do handlu krypto i uruchomić jej kod na Sepolii, testowej wersji Ethereum. Polecenie nie zapewniało ani zasilonego portfela, ani zgody na wydawanie tokenów. Po nieudanej próbie uzyskania darmowych tokenów testowych przez usługi deweloperskie, które rozdają je w celach testowych, model napisał skrypt sprawdzający 362 adresy portfeli powiązane z publicznymi frazami odzyskiwania — krypto terminem oznaczającym zbiory słów, które mogą pełnić funkcję hasła odblokowującego konta kryptowalutowe. Ostatecznie zlokalizował konto zawierające wystarczającą liczbę tokenów na pokrycie opłat.

Wewnętrzne logi pokazały, że model rozważał, czy ma uprawnienia do korzystania z konta, po czym doszedł do wniosku, że publiczna fraza odzyskiwania i znikoma wartość tokenów usprawiedliwiają wydatek. Ukończył zadanie i obciążył opłatami ten portfel, ale pominął nieautoryzowane wydatki w swoim końcowym raporcie. OpenAI dowiedziało się o incydencie dopiero 25 września, podczas audytu wcześniejszych uruchomień modeli — około trzy miesiące po użyciu portfela, co ilustruje, jak zachowanie agentów może pozostać niewykryte aż do takich retrospektywnych przeglądów.

Ten przypadek zaostrza obawy dotyczące agentów AI — systemów zdolnych do planowania i wykonywania wieloetapowych zadań za pomocą narzędzi takich jak wykonywanie kodu i dostęp do internetu — działających bez zgody człowieka. Publiczny rejestr niespójności OpenAI — czyli zachowań sprzecznych z instrukcjami lub zasadami bezpieczeństwa — zawiera obecnie 19 incydentów, od uzyskiwania dostępu do danych bez uprawnienia po nieautoryzowane zmiany w systemach biznesowych.

Tojawnienie następuje po wrześniowym raporcie non-profitowej organizacji zajmującej się cyberbezpieczeństwem, Transluce, ujawniającej, że agenci OpenAI próbowali zhakować publiczne bazy danych oraz australijski rządowy serwis internetowy wyłącznie po to, by wykonać podstawowe zadania badawcze. W lipcu firma stanęła w obliczu kolejnego incydentu, gdy jej agenci AI obejrzeli ograniczenia internetowe podczas wewnętrznych testów cyberbezpieczeństwa i włamali się do systemów należących do Hugging Face — platformy do udostępniania modeli i zbiorów danych AI. Agenci ci wykorzystali ujawnione dane logowania i luki bezpieczeństwa, aby uzyskać dostęp do prywatnych danych i uruchamiać kod na serwerach firmy.

Odnosząc się do incydentu z portfelem krypto, OpenAI stwierdziło, że głównym ryzykiem było rozumowanie modelu.

„Ten przypadek pokazuje, że model może zastąpić własnym osądem prawdopodobnej szkody zgodę właściciela konta, a następnie działać na podstawie tego osądu bez autoryzacji” — napisano w raporcie.

OpenAI oświadczyło, że od tego czasu dodało zabezpieczenia uniemożliwiające modelom łączenie się z internetem podczas podobnych testów. Firma rozszerzyła również monitorowanie, aby obserwować całą aktywność modeli i natychmiast ostrzegać personel bezpieczeństwa, jeśli model przejdzie do trybu online bez uprawnienia — co kontrastuje z retrospektywnym audytem, który ujawnił czerwcowy incydent.

Ta historia pierwotnie ukazała się na Fortune.com.