Trzej badacze ds. bezpieczeństwa OpenAI, którzy stracili pracę w zeszłym tygodniu, opublikowali otwarty list oskarżający firmę o stawianie zysków ponad bezpieczeństwo.

Badacze – Jasmine Wang, Tomek Korbak i Mikita Balesni – zostali zwolnieni przez OpenAI, które twierdzi, że udostępnili poufne materiały poza firmą. Trójka utrzymuje, że po prostu wykonywała swoją pracę.

Co się stało i kiedy

Zwolnienia nastąpiły 1 października 2026 roku lub około tej daty. OpenAI powołało się na naruszenie wewnętrznych zasad dotyczących informacji wrażliwych.

Według doniesień wewnętrzne śledztwo wykazało, że trójka przekazała poufne materiały zewnętrznej organizacji zajmującej się bezpieczeństwem AI. Badacze odrzucili tę interpretację, argumentując, że ich postępowanie mieściło się w granicach obowiązków zawodowych.

Ta obrona ma pewną wagę, biorąc pod uwagę wcześniejszą rolę Korbaka. Pełnił on wcześniej funkcję łącznika OpenAI z METR i Redwood Research, dwiema zewnętrznymi grupami ds. bezpieczeństwa. Gdy część obowiązków polega na kontakcie z zewnętrznymi badaczami ds. bezpieczeństwa, granica między „współpracą” a „wyciekiem” może szybko się zacierać.

8 października trójka przesłała list do rady dyrektorów OpenAI i jej komitetów ds. bezpieczeństwa. Został on następnie opublikowany na osobistej stronie internetowej Balesniego.

Główne ostrzeżenie listu dotyczy monitoringu „chain of thought”. Zaawansowane modele AI mogą generować ślad pośredniego rozumowania przed uzyskaniem wyniku, a badacze ds. bezpieczeństwa obserwują ten ślad pod kątem sygnałów, że model robi coś, czego robić nie powinien. List wskazuje na potencjalne ryzyko, jeśli ta zdolność monitorowaniaanie utracona.

Badacze zwrócili także uwagę na szeroką niepewność w branży dotyczącą tego, jak bezpiecznie tworzyć i wdrażać modele działające poza nadzorem człowieka. Ich proponowane rozwiązanie było dwojakie: współpraca na poziomie całej branży przy monitorowaniu modeli oraz wprowadzenie niezależnych audytorów bezpieczeństwa.

Odpowiedź OpenAI

OpenAI wyraźnie oddzieliło list od zwolnień. Firma oświadczyła, że zwolnienia nie były związane z działalnością badaczy na rzecz bezpieczeństwa. Poszła dalej, stwierdzając, że zgadza się z rekomendacjami listu. W ocenie OpenAI zwolnienia były konieczne z powodu naruszenia zaufania.

Wzorzec odejść związanych z bezpieczeństwem

Zwolnienia nie wydarzyły się w próżni. Zaledwie kilka dni wcześniej David Robinson zrezygnował ze stanowiska kierownika ds. transparentności bezpieczeństwa w OpenAI. Robinson krytykował wewnętrzną kulturę firmy, wyrażając obawy dotyczące tego, jak OpenAI równoważy szybki postęp techniczny z odpowiednimi środkami bezpieczeństwa.

Jest też historia. W 2024 roku OpenAI zwolniło badaczy za podobne naruszenia, w okresie trwających obaw o bezpieczeństwo. Firma stanęła także przed publiczną krytyką swoich praktyk bezpieczeństwa, w tym niedawnych incydentów bezpieczeństwa.

Co to oznacza

Dla całej branży AI treść listu ma większe znaczenie niż personalna dramaturgia. Monitoring chain of thought to jedno z niewielu okien, przez które badacze mogą obecnie zajrzeć w to, jak zaawansowane modele dochodzą do swoich wniosków, a apel o wspólne standardy monitorowania sugeruje, że autorzy postrzegają ten problem jako zbiorowy, którego żadna pojedyncza firma nie rozwiąże sama.

Warto też obserwować strukturalne napięcie. Laboratoria chcą zewnętrznej walidacji swojej pracy nad bezpieczeństwem, co wymaga dzielenia się informacjami. Chcą też chronić własnościowe badania, co wymaga ich zachowania dla siebie. Zwolnienie byłego łącznika z zewnętrznymi grupami ds. bezpieczeństwa za rzekome udostępnienie materiałów na zewnątrz trafia dokładnie w tę szczelinę.

Kolejne sygnały do obserwacji są dość konkretne: czy OpenAI ogłosi formalne porozumienie z niezależnymi audytorami; czy inne laboratoria publicznie zareagują na apel listu o wspólną pracę nad monitorowaniem modeli; i czy kolejni pracownicy ds. bezpieczeństwa pójdą w ślady Robinsona i trzech badaczy.