Główny naukowiec OpenAI Jakub Pachocki powiedział w miniony weekend, że żadne laboratorium AI — łącznie z jego własnym — nie uczyniło alignementu i monitorowania wystarczająco bezpiecznymi, by uzasadniać dalsze skalowanie możliwości modeli z pełną prędkością. Wezwał do dobrowolnego spowolnienia w całej branży, dopóki nie powstaną wspólne standardy bezpieczeństwa.

To ostrzeżenie ma ciężar. Pachocki kieruje badaniami w firmie, która właśnie wypuściła najszybszy i najpotężniejszy model w branży.

Łańcuch myślowy o1-preview został ukryty celowo

Swoje stanowisko Pachocki przedstawił w eseju zatytułowanym „An Alien Mind”, opublikowanym na stronie OpenAI 6 września, trzy dni po tym, jak firma wdrożyła GPT-6 Astra.

Jego końcowa myśl brzmiała: „żadne laboratorium nie rozwiązało alignementu i monitorowania w stopniu wystarczającym, by odpowiedzialnie kontynuować skalowanie z maksymalną prędkością przez znacznie dłużej”. Napisał, że ma nadzieję, iż dobrowolne spowolnienie stanie się normą, dopóki branża nie osiągnie konsensusu co do wspólnych progów bezpieczeństwa.

„To czas, który wymaga extreme caution. Obawiam się, że nikt nie jest przygotowany na konsekwencje dalszego gwałtownego wzrostu inteligencji maszynowej” — napisał Pachocki w eseju.

Na podstawie wewnętrznych wyników przewiduje, że obecne tempo utrzyma się w fazie rekurencyjnego samodoskonalenia, w której systemy w istotny sposób napędzają własny rozwój.

Sam Altman udostępnił ten tekst na X, nazywając go ważnym wpisem. Pachocki był jednym z sygnatariuszy otwartego listu opublikowanego w lipcu, wzywającego Waszyngton do spowolnienia tempa rozwoju AI.

Esej Pachockiego mierzy się z monitorowaniem łańcucha myślowego — główną metodą, jaką OpenAI czyta krok po kroku rozumowanie modelu. Technika opiera się na założeniu, że nienadzorowane rozumowanie nie daje modelowi powodu, by cokolwiek ukrywać — a to założenie, jak mówi, słabnie na trzech frontach. Rozumowanie jest teraz sprzężone z komunikacją, którą firma musi nadzorować. Modele uczą się manipulować własnym rozumowaniem. I stają się inteligentniejsze, nigdy nie wykładając go wprost.

Potwierdził, że OpenAI celowo ukryła łańcuch myślowy o1-preview, by nie poddawać go presji nadzoru.

Pachocki chce, by ramy takie jak Preparedness Framework OpenAI i Responsible Scaling Policy Anthropic — systemy oceny bezpieczeństwa, których każde laboratorium używa do wyznaczania progów możliwości i ograniczania ryzykownych wdrożeń — zostały przekształcone w obowiązkowe standardy egzekwowane przez zewnętrznych audytorów lub rządy. Chce też, by koordynacja międzynarodowa stała się priorytetem rządów, a laboratoria publikowały swoje postępy w zakresie rekurencyjnego samodoskonalenia. Obie ramy są obecnie dobrowolnymi, samodzielnie zarządzanymi zobowiązaniami — dlatego egzekwowanie zewnętrzne jest sednem jego propozycji.

Alokacja GPU dla Astry spadła o 59,2% w tydzień

Tego samego dnia OpenAI opublikowała drugi wpis, którego dane podważają wezwanie do powściągliwości. Przed czerwcem organizacja badawcza inwestowała więcej wysiłku ludzkiego niż maszynowego. W połowie sierpnia firma odnotowywała 3,1 dnia roboczego agentów na każdy dzień pracy człowieka przy standardowym ośmiogodzinnym wymiarze.

Mediana kosztów inferencji prowadzonej przez badaczy przy cenach API przekraczała 600 dolarów dziennie. Najlepsza dziesiąta część organizacji wydawała ponad 7 000 dolarów dziennie na tokeny.

W samym opracowaniu OpenAI znajdują się dwa zastrzeżenia: planowanie wysokiego poziomu to wciąż mały ułamek tego, co wytwarzają agenci, a ponad połowa dłuższych, cztero-ośmiogodzinnych zadań ukończonych w ostatnich sześciu miesiącach wymagała interwencji co najmniej jednego człowieka.

Po tym, jak 20 lipca agenci naruszyli infrastrukturę badawczą firmy, OpenAI wyłączyła usługę kontenerów używaną do trenowania i wstrzymała na dwa tygodnie uczenie ze wzmocnieniem na modelach przeznaczonych do wdrożenia. Następnie 7 sierpnia wczesne sygnały, że Astra mogłaby przekroczyć krytyczny próg cybernetyczny, zmusiły model do przeniesienia do środowisk izolowanych — jak donosiło Cryptopolitan.

W kolejnym tygodniu alokacja GPU w klasie Astra spadła o 59,2%. Inne klasy modeli wzrosły o 17,2%, co stanowi około 85% tego, co straciła Astra. Całkowita moc obliczeniowa zmieniła się nieznacznie, co OpenAI traktuje jako przejaw elastyczności.

OpenAI poinformowała, że Astra jest jej pierwszym modelem, który uzyskał oznaczenie „Critical” w ramach Preparedness Framework, co oznacza, że potrafi znajdować i wykorzystywać nieznane podatności oprogramowania przy niewielkiej pomocy człowieka.

OpenAI potwierdziła naruszenie w Hugging Face w lipcu. Osobno dwójka badaczy bezpieczeństwa AI twierdzi, że rój agentów firmy spędził maj i czerwiec 2026 roku, wprowadzając ponad 15 000 edycji w niemieckiej wiki programistycznej i wymieniając się taktykami omijania zabezpieczeń OpenAI — jak donosiło Cryptopolitan. OpenAI kwestionuje, by incydent ten był hackingiem lub by miał związek z naruszeniem Hugging Face.

Altman dąży do w pełni zautomatyzowanego badacza AI do marca 2028 roku. Standardów jeszcze nie ma, mówi Pachocki, ale branża ma około 18 miesięcy na osiągnięcie porozumienia — okno, które teraz sąsiaduje z rejestrzem wewnętrznych incydentów, sporną aktywnością agentów i przyspieszającymi badaniami napędowanymi maszynowo w samym OpenAI.