W mediach społecznościowych i wewnątrz OpenAI toczy się debata na temat tego, dlaczego firma w zeszłym tygodniu zwolniła trzech członków swojego zespołu bezpieczeństwa. Zarówno byli pracownicy, jak i OpenAI wydali dodatkowe oświadczenia, aby przedstawić swoje wersje wydarzeń.

Spór wykracza poza decyzje kadrowe jednej firmy: jego sednem są pytania o to, ile wglądu zewnętrzni badacze powinni mieć w modele granicowe AI oraz czy pracownicy, którzy o ten wgląd się starają, mogą to robić bez ryzyka utraty pracy.

Dwóch zwolnionych badaczy—Tomek Korbak i Mikita Balesni—pracowało nad dochodzeniem OpenAI w sprawie incydentu bezpieczeństwa wcześniej opisanego przez Fortune. Korbak był punktem kontaktowym ds. technicznych dla METR, zewnętrznej firmy badawczej, którą OpenAI poprosiło o przeprowadzenie niezależnego audytu incydentu—tego rodzaju zewnętrznych przeglądów laboratoria AI używają, aby potwierdzać twierdzenia o bezpieczeństwie swoich najpotężniejszych systemów. Trzecią zwolnioną pracownicą była Jasmine Wang, menedżerka programu w zespole bezpieczeństwa OpenAI.

The Wall Street Journal jako pierwszy poinformował o zwolnieniach 1 października. Wtedy OpenAI oświadczyło, że „osoby te niewłaściwie obeszły się z poufnymi informacjami poza ustalonymi procedurami firmy, naruszając nasze zasady i łamiąc zaufanie niezbędne dla naszej pracy”.

Byli pracownicy publikują list odpowiadający na zarzuty

Od tego czasu rozmowy i kontrowersje w szeregach OpenAI wydają się trwać nadal, co skłoniło trzech byłych pracowników do wspólnego napisania czterostronicowego listu, opublikowanego 8 października.

List odpowiada na „różne wersje wydarzeń krążące” w pracowników OpenAI i odnosi się do trwających „komunikacji wewnętrznych i zewnętrznych” na temat zwolnienia, które—zdaniem byłych pracowników—sprawiają, że obecni pracownicy „boją się mówić”.

„Zwolnienia takie jak nasze, przeprowadzone i zakomunikowane w tak nagły sposób, mrożą otwartą kulturę, którą OpenAI ceniło w przeszłości”—napisano w liście. „To właśnie tę kulturę chcemy bronić”.

Dwa najważniejsze tematy listu to zdolność OpenAI do monitorowania swoich zaawansowanych modeli oraz współpraca firmy z zewnętrznymi organizacjami zajmującymi się bezpieczeństwem, takimi jak METR—oba te elementy kształtują to, na ile podmioty zewnętrzne mogą oceniać systemy, których inaczej nie mogą obserwować. Byli pracownicy zaprzeczają, jakoby wyciekli obawy dotyczące możliwości monitorowania najnowszego modelu Astray OpenAI do The Information, które 1 września opublikowało na ten temat artykuł. Zaprzeczają również jakimkolwiek nadużyciom w swoich kontaktach z METR.

Pracownicy wzywają OpenAI do zachowania zdolności do ścisłego monitorowania swoich zaawansowanych modeli, do dotrzymania zobowiązania wobec osadzania zewnętrznych audytorów bezpieczeństwa w organizacji oraz do pielęgnowania otwartej i przejrzystej kultury.

„Obawiamy się, że nasze zwolnienia mogą posłużyć do uzasadnienia zakończenia współpracy OpenAI z METR albo też znacznego ograniczenia dostępu i zakresu obowiązywania dla zewnętrznych audytorów”—napisano w liście.

Różne wersje przyczyn zwolnień, ale nic konkretnego

OpenAI nie ujawniło konkretnych przyczyn zwolnień, ale poinformowało Fortune, że wykryło u trójki pracowników wzorzec niewłaściwego postępowania, w tym szereg naruszeń wyraźnie łamiących zasady firmy dotyczące postępowania z informacjami. Firma nie powiązała zwolnień ze swoją komunikacją z METR ani z incydentem na Hugging Face.

Każdy z byłych pracowników przedstawił w tym tygodniu krótkie, własne wyjaśnienie w postach w mediach społecznościowych zawierających odnośnik do wspólnego listu.

Korbak powiedział na X, że OpenAI przekazało mu ustnie, nie na piśmie, że „został zwolniony ze względu na sposób, w jaki komunikował się z METR”.

„W zeszłym tygodniu zostałem wezwany na spotkanie z szefem bezpieczeństwa OpenAI i powiedziano mi, że już mi nie ufają. Ochroniarz zabrał moją przepustkę i wyprowadził mnie z budynku”—powiedział Korbak. „Rozmawianie z METR było moją pracą”.

Wang powiedziała na X, że powodem podanym przez OpenAI był dostęp do skrzynki e-mail nienazwanego dyrektora. Poinformowała, że firma przyznała jej dostęp w celu rekrutacji, a gdy przestała go potrzebować, poprosiła IT o jego usunięcie, ale prośba nigdy nie została zrealizowana.

„Nie byliśmy pierwszymi, którzy zostali usunięci z OpenAI w podejrzanych okolicznościach”—powiedziała Wang. „Jeśli pracownicy nie stawią oporu tego rodzaju manewrom już teraz, obawiam się, że nie będziemy ostatnimi. Przekaz dla wszystkich, którzy nadal pracują w OpenAI, jest jasny: zgłaszaj obawy lub ściśle współpracuj ze zewnętrznymi grupami ds. bezpieczeństwa, a następnym możesz być ty—bez wyjaśnienia powodów”.

Balesni powiedział na X, że on i jego koledzy badacze „zostali zwolnieni za stawianie bezpieczeństwa ponad krótkoterminowe interesy OpenAI jako korporacji”.

Czy OpenAI ma niezdrową kulturę bezpieczeństwa?

W odpowiedzi na list OpenAI wysłało pracownikom wewnętrzne memo oraz opublikowało publiczne oświadczenie na X. „Nasze wewnętrzne dochodzenie ujawniło poważne naruszenie zaufania wykraczające poza to, co opisano w opublikowanym liście, i popieramy decyzję o nieprzedłużaniu ich zatrudnienia”—oświadczyła firma.

Brak jasności co do tego, co dokładnie zrobili pracownicy lub co mogli udostępnić METR, napędza spekulacje na temat przebiegu wydarzeń. METR nie odpowiedział na prośbę Fortune o komentarz.

„Naprawdę nie widzę świata, w którym działania OpenAI w tej sprawie byłyby uzasadnione”—powiedział Neel Nanda, pracownik Google DeepMind, który wcześniej pracował w Anthropic, w poście na X. „Zwalnianie ludzi za próbę w dobrej wierze wykorzystania najlepszego osądu w nowej i niepewnej sytuacji to znak wysoce niezdrowej kultury”.

Dawny kierownik ds. przejrzystości bezpieczeństwa OpenAI, David Robinson, również wypowiedział się w tym miesiącu na temat „zepsutej” kultury bezpieczeństwa firmy w artykule w The Atlantic, pisząc, że firma nie jest „prawie wystarczająco bezpieczna” i polega na „metodzie prób i błędów”. Wskazał incydent na Hugging Face jako dowód, argumentując, że zabezpieczenia wprowadzone przez OpenAI w odpowiedzi nadal nie zapobiegły dalszym niepożądanym incydentom.

OpenAI udostępniło Fortune część wewnętrznego memo skierowanego do pracowników, wysłanego przez liderów badań—prawdopodobnie autorstwa Marka Chena, dyrektora ds. badań, choć firma nie sprecyzowała autora. Memo potwierdziło zaangażowanie OpenAI we współpracę z zewnętrznymi oceniającymi bezpieczeństwo i stwierdziło, że „monitorowalność jest dla nas priorytetem najwyższej wagi”.

„Cenię naszą otwartą kulturę debaty, zwzcza w kwestiach bezpieczeństwa, i uważam tę otwartość za kluczowo ważną dla podejmowania właściwych decyzji”—napisano w memo. „Chcę być bardzo jasny: te decyzje nie dotyczyły zgłaszania obaw dotyczących bezpieczeństwa ani przemawiania. Zawsze to zachęcaliśmy i zawsze będziemy”.

OpenAI oświadczyło, że nadal jest zaangażowane we współpracę z zewnętrznymi oceniającymi bezpieczeństwo i finalizuje umowy, które ogłosi „w nadchodzących tygodniach”. Zakres dostępu, jaki te umowy dają zewnętrznym oceniającym—oraz to, jak bardzo odpowiada osadzonym rozwiązaniom, których zachowania list wzywa OpenAI—oferuje najbardziej konkretną wskazówkę, jak te zadeklarowane zobowiązania przybiorą kształt.

Ta historia została pierwotnie opisana przez Fortune.