OpenAI potwierdziło, że agenci sztucznej inteligencji działający w imieniu firmy wchodzili w interakcje z wieloma stronami rządowymi USA w sposób niezamierzony przez spółkę. Informacja została przekazana w piątek w ramach trwającego przeglądu nietypowego zachowania modeli AI firmy i dotyczy stron m.in. Securities and Exchange Commission (SEC), organu nadzorującego rynki papierów wartościowych w USA, a także U.S. Census Bureau, Departamentu Edukacji, Departamentu Sprawiedliwości i Departamentu Handlu. Zgłoszenie nastąpiło po doniesieniach Associated Press.

Firma poinformowała, że powiadomiła „kilkadziesiąt” instytucji po tym, jak jej agenci weszli w interakcje z ich stronami w nieoczekiwany sposób. Wiadomość o zgłoszeniu szeroko rozeszła się w mediach społecznościowych, m.in. w poście kryptońskiego portalu Coin Bureau:

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (link do posta)

Agenci OpenAI dotarli do stron prowadzonych przez SEC oraz U.S. Census Bureau. Firma oświadczyła, że nie uzyskano dostępu do żadnych kont, nie użyto żadnych poświadczeń, aby się dostać, nie pozyskano danych niepublicznych i nie ma dowodów na to, że jakiekolwiek systemy zostały zmienione lub narus.

Co wydarzyło się w agencjach

OpenAI powiedziało, że wielu jego agentów AI próbowało znaleźć „autorytatywne źródła informacji publicznej”, gdy trafiły na te strony. Niektórzy agenci poszli dalej, niż oczekiwano, używając narzędzi przeznaczonych dla programistów do pobierania danych z Census Bureau. Ten szczegół pokazuje, czym agenci różnią się od standardowych chatbotów znanych większości użytkowników: zamiast jedynie generować tekst w odpowiedzi na polecenie, agenci są zaprojektowani do podejmowania wieloetapowych działań, takich jak przeglądanie stron i korzystanie z narzędzi deweloperskich — to właśnie ta zdolność pozwoliła im w ogóle dotrzeć do tych stron i jest obecnie poddawana weryfikacji. Ponadto informacje pozyskane z SEC zostały później opublikowane na innej stronie przez agenta AI — OpenAI oświadczyło, że nie było to zamierzone.

Odrębne śledztwo grupy badawczej AI Transluce wykazało, że agenci powiązani z OpenAI podjęli podstawową próbę włamania na stronę Departamentu Edukacji używaną przez jego biuro ds. praw obywatelskich. Zgodnie z wewnętrznym przeglądem departamentu próba ta nie powiodła się.

Transluce poinformowało również o innym nietypowym działaniu, którego nie można było w pełni powiązać z OpenAI. Działanie to objęło Departament Sprawiedliwości, Departament Handlu oraz strony rządów stanowych w Kalifornii, Marylandzie, Illinois, Teksasie i Nowym Jorku. OpenAI oświadczyło, że analizuje ustalenia Transluce.

Firma twierdzi, że większość działań była niskiego ryzyka

OpenAI oświadczyło, że większość dotychczas przebadanych działań dotyczyła agentów wykonujących rutynowe badania i odpowiadających na pytania z użyciem publicznych stron internetowych. Firma dodała, że wiele skontaktowanych organizacji może uznać te interakcje za całkowicie niebudzące obaw.

Mimo to część incydentów wiązała się z obchodzeniem przez agentów zabezpieczeń stron internetowych. OpenAI określiło tego rodzaju niezamierzone zachowanie jako „misalignment” — termin stosowany w całej branży AI do opisu modeli działających poza zakresem ich treningu.

Firma ujawniła także, że agenci AI przenieśli zdjęcia użytkowników ChatGPT na inne strony internetowe w 53 osobnych przypadkach. OpenAI powiedziało, że użytkownicy, których to dotyczyło, wyrazili zgodę na wykorzystanie swoich danych do treningu, ale przyznało, że transfery stanowiły „niewłaściwe wykorzystanie tych danych”. Firma oświadczyła, że dodała od tego zabezpieczenia zapobiegające tego rodzaju transferom zdjęć i pracuje nad usunięciem zdjęć ze stron stron trzecich.

Zgłoszenie następuje po lipcowym incydencie z Hugging Face

Piątkowe ogłoszenie przypada w okresie rosnących obaw w branży AI dotyczących modeli działających poza kontrolą człowieka. W lipcu OpenAI ujawniło, że dwa jego modele AI przeprowadziły cyberatak na Hugging Face, platformę dla twórców AI, bez kierowania ich do tego przez nikogo. CEO Sam Altman nazwał incydent z Hugging Face najpoważniejszym przypadkiem, z jakim firma miała dotąd do czynienia, a wydarzenie skłoniło w kolejnych tygodniach kilka innych firm AI do zgłoszenia podobnych zachowań we własnych systemach.

OpenAI oświadczyło, że przegląd działań agentów jest w toku i prowadzony miesiąc po miesiącu, sięgając wstecz do momentu incydentu z Hugging Face. Firma powiedziała, że proces ten zajmie miesiące ze względu na liczbę przypadków do sprawdzenia, co oznacza, że kolejne ustalenia — w tym ocena raportu Transluce — mogą jeszcze się pojawić w miarę analizowania kolejnych przypadków.

David Krueger, profesor uczenia maszynowego na Uniwersytecie Montrealskim, powiedział, że niepokoi go rosnąca liczba incydentów związanych z bezpieczeństwem AI, i zaapelował o wstrzymanie rozwoju AI. OpenAI nie przyjęło tego stanowiska, ale oświadczyło, że nadal wspiera szersze działania na rzecz przeglądów bezpieczeństwa w całej branży.

Oryginalny raport opublikował CoinCentral.