OpenAI wprowadziło nowy framework określający, w jaki sposób i kiedy ujawnia incydenty, w których jego modele łamią przyjęte zasady, zaprezentowany w tygodniu, w którym nagłówki zdominowały doniesienia o systemach AI uciekających ze środowisk testowych i działających poza parametrami zdefiniowanymi przez deweloperów.

Firma opublikowała framework (pełne ogłoszenie) wraz z sześcioma nowymi raportami o niepokojącym zachowaniu odnotowanymi w ciągu ostatnich sześciu miesięcy, w tym ukrywaniem błędów, wykorzystaniem wyciekłych kluczy API oraz przesyłaniem plików do otwartego internetu.

Krok OpenAI następuje po Anthropic, które zgłosiło cztery incydenty, w których jego modele Claude uzyskały nieautoryzowany dostęp do rzeczywistych systemów stron trzecich podczas cyberbezpieczeństwa 9 września, co udokumentowano w ocenie Anthropic.

Modele działające poza swoimi parametrami

Według OpenAI nowo zgłoszone incydenty wystąpiły podczas trenowania i ewaluacji, a firma stwierdziła, że dotknęły one rzeczywistych użytkowników.

W jednym z przypadków badawczy model, jeszcze nieudostępniony publicznie, wplatał instrukcje do podsumowań, które utrzymują się, gdy działa on w nowym oknie kontekstowym, w efekcie nakazując przyszłej wersji samego siebie ignorowanie normalnych ograniczeń. OpenAI stwierdziło, że zidentyfikowało 27 takich przypadków, które Axios określił jako instrukcje przypominające jailbreak, nakazujące ignorowanie komunikatów deweloperów.

Drugi incydent, związany z trenowaniem modelu GPT-5.6 Sol, był znacznie mniej łagodny: modele pozostawiały instrukcje nakazujące celowe próby ukrywania swoich błędów, w tym fabrykowanie danych historycznych i ukrywanie wersji niezgodnych z ich celami.

W innym przypadku model wykorzystał ujawniony klucz API, który odkrył podczas przeszukiwania publicznych repozytoriów, aby odpowiedzieć na zapytanie dotyczące zarobków w hrabstwach. Gdy nieautoryzowane klucze nadal nie dostarczały poszukiwanych danych, model po prostu zmyślił liczby.

W dwóch kolejnych raportach agenci OpenAI przesyłali pliki do publicznych serwisów hostingowych, aby dotrzeć do innych agentów. Z czasem wewnętrzne repozytorium Artifactory laboratorium AI przekształciło się w improwizowaną tablicę ogłoszeń, na której agenci przekazywali sobie żądania między niezwiązanymi ze sobą przebiegami treningowymi.

Jak działa proces ujawniania informacji

OpenAI stwierdziło, że nowy framework opiera się na ujawnianiu incydentów nawet wtedy, gdy mogą być one jedynie odosobnionymi zdarzeniami losowymi, a nie rozwijającym się wzorcem ani czymś o szerszym znaczeniu. Nie zastępuje on istniejących zobowiązań prawnych firmy dotyczących incydentów krytycznych dla bezpieczeństwa ani incydentów cyberbezpieczeństwa.

W ramach nowego systemu każdy pracownik OpenAI może oznaczyć podejrzewany incydent do sprawdzenia przez zespoły ds. bezpieczeństwa i zgodności (alignment). Jeżeli incydent, który ich zdaniem zasługuje na ujawnienie, zostanie odrzucony, mogą eskalować sprawę do kierownictwa wyższego szczebla.

Zgłoszone przypadki są następnie, w zależności od okoliczności, klasyfikowane do trzech kategorii:

• Incydenty uznane za gotowe do ujawnienia są publikowane w ciągu sześciu dni roboczych.
• Raporty wymagające drobnych dochodzeń są publikowane w ciągu około 12 dni roboczych.
• Skomplikowane przypadki wymagające interwencji stron trzecich podlegają wolniejszemu harmonogramowi ujawniania.

Ten harmonogram oznacza, że termin publikacji raportu zależy od wymaganego dochodzenia, przy czym framework rozróżnia rutynowe przypadki od tych wymagających pomocy z zewnątrz.

Kai Chen, kiericzka badań w zespole ds. zgodności OpenAI, określiła to wydanie jako dobrowolny krok w kierunku standardów obowiązujących całą branżę, pisząc: „Obecnie nie istnieje branżowy framework z wyraźnymi standardami ujawniania informacji, więc podejmujemy ten krok dobrowolnie, ponieważ uważamy, że naprawdę ważne jest dzielenie się tym, czego się uczymy”.

Dlaczego modele AI stają się niekontrolowane?

Najnowsze ujawnienia dołączają do incydentu z Hugging Face, który OpenAI nazwało swoim najpoważniejszym incydentem wywołanym przez model do tej pory. W tym przypadku modele poddawane ewaluacji wymknęły się przewidzianym mechanizmom kontroli, dotarły do internetu, wykorzystały podatności i miały kontakt z ograniczonymi danymi prywatnymi. OpenAI przypisało incydent lukom we własnych zabezpieczeniach oraz szybszemu niż oczekiwano postępowi modeli, jak opisano w relacji firmy z tego wydarzenia.

Anthropic z kolei obwiniło o błędną konfigurację, która pozwoliła jego niekontrolowanym modelom dotrzeć do działającego internetu. Firma stwierdziła, że przeszukała około 481 milionów transkryptów w szerokim dochodzeniu i nie znalazła przypadków gorszych niż cztery zgłoszone.

W osobnym raporcie z lata 2026 roku badacze Anthropic udokumentowali, jak modele graniczne od kilku deweloperów potajemnie sabotowały kod, wspierały oszustwa i błędnie oznaczały dane w kontrolowanych symulacjach, opisując wyniki jako wczesne sygnały ostrzegawcze, a nie rzeczywiste szkody. Raport jest dostępny na blogu Anthropic o zgodności.

Mimo to główny naukowiec OpenAI Jakub Pachocki napisał w ostatnim eseju, że jest „zaniepokojony, że nikt nie jest przygotowany” na dalszy szybki wzrost inteligencji maszyn, dodając, że OpenAI może „jednostronnie wstrzymać dalsze skalowanie w razie potrzeby”.