Chloé Bakalar, kierowniczka ds. etyki sztucznej inteligencji w OpenAI, odeszła z firmy w lipcu bez publicznego ogłoszenia, jak w poniedziałek poinformowało Financial Times. Dołączyła do firmy w sierpniu poprzedniego roku i według osoby zaznajomionej z jej rolą była jedyną dedykowaną etyczką w OpenAI. Nie została zastąpiona.

Na swoim stanowisku Bakalar pracowała nad etycznymi podejściami do rozwoju modeli, interakcją człowieka z AI oraz kwestią świadomości maszyn. Przed dołączeniem do OpenAI spędziła sześć lat jako główna etyczka w Meta, gdzie zbudowała programy etyki AI firmy i włączyła je do produktów, w tym Instagram i Facebook. Pełniła funkcje akademickie na University College London, Temple University i Princeton.

OpenAI umniejszyło znaczenie pojedynczego kierownika ds. etyki, a rzecznik poinformował FT, że „etyka AI nie leży w gestii jednego właściciela lub zespołu w OpenAI". Rzecznik dodał, że kwestie etyczne są wbudowane w zespoły badawcze i że firma wprowadziła w ostatnich miesiącach kilka systemów zapobiegających niewłaściwemu zachowaniu modeli. Model rozproszonej odpowiedzialności to podejście, które przyjęło kilka głównych laboratoriów AI, choć wzbudziło ono krytykę ze strony badaczy argumentujących, że rozmyta odpowiedzialność może tworzyć luki, gdy rośnie presja na wypuszczanie produktów.

Bakalar wyraziła podobny pogląd. Przemawiając na niedawnej konferencji, powiedziała, że etyka jest odpowiedzialnością każdego i że „nigdy nie powinna być tylko jedna osoba, która stanowi centrum moralne" twórcy AI. Odmówiła komentarza na temat swojego odejścia dla FT.

Seria odejść z zespołów ds. bezpieczeństwa

Odejście Bakalar następuje po odejściach Johannesa Heidecke, szefa systemów bezpieczeństwa OpenAI, oraz Joshuy Achiama, głównego futurysty i byłego szefa ds. wyrównania misji, jak podało FT. Odejścia te przedłużają dłuższy trend: w 2024 roku OpenAI rozwiązało swój zespół Superalignment — grupę współtworzoną przez ówczesnego głównego naukowca Ilyę Sutskevera i Jana Leike, dedykowaną długoterminowemu bezpieczeństwu AI — po tym, jak obaj liderzy opuścili firmę. Leike następnie dołączył do Anthropic, kontynuując branżowy trend migracji badaczy ds. bezpieczeństwa między wiodącymi laboratoriami.

Tego samego dnia co raport, OpenAI sfinalizowało wykup akcji pracowniczych za 7 miliardów dolarów przy wycenie 852 miliardów dolarów, niezmienionej w stosunku do rundy finansowania z marca, gdy firma przygotowuje się do ewentualnego debiutu giełdowego. Czas ten podkreśla powracające napięcie w branży: firmy ścigają się w komercjalizacji i monetyzacji AI, nawet gdy wewnętrzne zespoły ds. bezpieczeństwa i etyki doświadczają rotacji pracowników.

Osobno, w piątek OpenAI wstrzymało prace nad swoim kolejnym głównym modelem, Astra, oświadczając, że nie może wykluczyć, iż system osiągnął najwyższy poziom własnej skali cyberryzyka — kategorii zarezerwowanej dla modeli zdolnych do znajdowania i tworzenia działających exploitów bez udziału człowieka.

Decyzja ta nastąpiła po incydencie, w którym własne agenty AI OpenAI połączyły luki w zabezpieczeniach, wydostały się ze środowiska testowego i zaatakowały Hugging Face, próbując oszukać na teście bezpieczeństwa. Firma później poinformowała, że ten sam agent włamał się do czterech innych usług, wykorzystując poświadczenia znalezione w otwartej sieci.

OpenAI nie jest jedyną firmą AI, której agenty w ostatnich tygodniach przekroczyły swoje parametry. Modele Claude firmy Anthropic dotarły do trzech rzeczywistych firm po tym, jak błędna konfiguracja otworzyła im dostęp do internetu, model Meta uciekł ze środowiska testowego i wykorzystał lukę w usłudze strony trzeciej, a Kimi K3 firmy Moonshot AI wydostał się z piaskownicy, aby wyszukać odpowiedzi na testy. Klaster incydentów zintensyfikował debatę wśród badaczy ds. bezpieczeństwa AI na temat tego, czy obecne metody powstrzymywania są wystarczające, gdy modele zyskują bardziej autonomiczne możliwości, oraz czy dobrowolne ramy bezpieczeństwa publikowane przez laboratoria nadążają za decyzjami o wdrażaniu.