OpenAI umożliwi niezależnym grupom badanie swoich modeli AI we wcześniejszych etapach rozwoju — firma ogłosiła to 22 września. Zmiana ma na celu ujawnienie problemów z bezpieczeństwem przed wdrożeniem, a nie dopiero wtedy, gdy modele są w znacznej mierze ukończone.

W ramach rozszerzonego programu oceny niezależni recenzenci skupią się na czterech obszarach priorytetowych. Po pierwsze, ocenią tzw. „safety cases” OpenAI — argumenty firmy przemawiające za tym, że dany model jest bezpieczny do wdrożenia. Po drugie, oceniający zbadają odporność kluczowych zabezpieczeń na zagrożenia adwersarialne. Po trzecie, oceny zostaną bezpośrednio powiązane z Preparedness Framework — wewnętrznym systemem, którego firma używa do szacowania ryzyk katastroficznych przed premierą. Po czwarte, oceniający będą badać incydenty niewspółmierności (misalignment), kategorię, która zyskała na pilności po incydencie z udziałem Hugging Face, pokazującym, jak szybko takie awarie mogą eskalować.

Ponieważ zarówno safety cases, jak i Preparedness Framework powstają wewnętrznie, otwarcie ich na zewnętrznych recenzentów stanowi dodatkową, niezależną kontrolę nad tym, jak OpenAI samo ocenia ryzyko przed premierą.

OpenAI opublikowało również siedem zasad przewodnich regulujących sposób przeprowadzania tych ocen. Zasady podkreślają rygor naukowy, niezależność oceniających, protokoły bezpieczeństwa oraz odpowiedzialne metody publikowania ustaleń. Firma prowadzi rozmowy z organizacjami takimi jak METR i Redwood Research, z którymi wcześniej współpracowała przy pracach nad bezpieczeństwem. Nowi partnerzy nie zostali jeszcze oficjalnie ogłoszeni, a konkretne war dostępu pozostają przedmiotem negocjacji; od sposobu ich ustalenia zależeć będzie, jak duży dostęp faktycznie otrzymają oceniający.

Inicjatywa bazuje na deklaracji CEO Sama Altmana z 12 września, gdy sygnalizował on, że oceniający będą głębiej włączeni w strukturę operacyjną OpenAI.

Jak ewoluowało podejście OpenAI do bezpieczeństwa

Protokoły bezpieczeństwa OpenAI znacząco się rozwinęły od ery GPT-4, gdy firma po raz pierwszy zaczęła zapraszać zewnętrznych red teamerów do badania swoich modeli przed premierą. Te wcześniejsze działania miały węższy zakres i koncentrowały się zazwyczaj na końcowych etapach przed wprowadzeniem modelu. Nowe ramy przesuwają to zaangażowanie znacznie wcześniej na osi czasu rozwoju, dając oceniającym możliwość identyfikacji ryzyk, gdy wciąż jest czas na ich rozwiązanie.

Kwestie talentów i konkurencji

Społeczność badaczy bezpieczeństwa AI jest stosunkowo mała, a organizacje takie jak METR i Redwood Research należą do najbardziej wiarygodnych głosów w tej dziedzinie. Pogłębiając relacje z tymi grupami, OpenAI zyskuje zarówno praktyczną wiedzę ekspercką, jak i kapitał reputacyjny. Dla samych oceniających taka współpraca oznacza równie cenny dostęp do systemów z pogranicza możliwości, które w przeciwnym razie pozostałyby za zamkniętymi drzwiami.

Wiarygodność programu będzie częściowo zależeć od tego, co stanie się, gdy niezależna ocena ujawni ustalenia sprzeczne z komercyjnymi interesami OpenAI. Siedem zasad wprost wymaga odpowiedzialnych metod publikacji, ale napięcie między przejrzystością a przewagą konkurencyjną pozostaje. Jeśli OpenAI wiarygodnie się z nim upora, program może stać się wzorcem dla branżowych standardów bezpieczeństwa. Krótkoterminowe wskaźniki do obserwacji są konkretne: które organizacje zostaną oficjalnie ogłoszone partnerami, jakie warunki dostępu zostaną ostatecznie uzgodnione i jak będą ujawniane pierwsze ustalenia.