Obietnice firm AI dotyczące spowolnienia rozwoju mogą załamać się pod naciskiem komercyjnym i w warunkach rywalizacji między USA a Chinami — bez egzekwowalnych standardów bezpieczeństwa — argumentują eksperci Atlantic Council w analizie opublikowanej w niedzielę.

Analiza bada, kto miałby egzekwować spowolnienie i czy rządy posiadają wiedzę specjalistyczną, by ocenić, kiedy coraz potężniejsze systemy stają się niebezpieczne. Oba pytania przewijają się w całych rozważanych przez ekspertów propozycjach.

„Dobrowolne zobowiązania mogą być użytecznym sygnałem, ale nie zastąpią niezależnego nadzoru, mierzalnych progów ani konsekwencji w przypadku ich przekroczenia” — napisał Konstantinos Komaitis, stacjonarny senior fellow w ramach inicjatywy Demracja + Technologia rady.

Komercyjny dylemat jest już widoczny. OpenAI niedawno zapytała ustawodawców, czy konkurujący ze sobą twórcy AI mogą zgodnie z prawem uzgodnić spowolnienie rozwoju bez naruszenia prawa antymonopolowego, po ostrzeżeniach swojego głównego naukowca, Jakuba Pachockiego, że zabezpieczenia są niewystarczające, by jeszcze długo odpowiedzialnie utrzymywać pełną prędkość rozwoju. Firmy AI stają więc przed ryzykiem konkurencyjnym, jeśli zwolnią same, i obawami antymonopolowymi, jeśli skoordynują działania.

Współpraca między rządami zderza się z analogiczną nieufnością. Kenton Thibaut, stacjonarna senior fellow rady ds. Chin, napisała, że Pekin obawia się, iż Waszyngton mógłby wykorzystać zasady bezpieczeństwa do utrzymania swojej przewagi technologicznej.

„Chiny są sceptyczne wobec motywacji USA i ostrzegają, że dyskusje o bezpieczeństwie mogłyby maskować wysiłki USA na rzecz umacniania »hegemonii technologicznej«” — napisała. „Oficjalne źródła podkreślają, że Waszyngton nie może jednostronnie definiować progów ryzyka na froncie i musi wykazać, że zasady będą dotyczyć — i będą egzekwowane wobec — amerykańskich firm.”

Thibaut widzi niewielkie szanse na duże porozumienie w sprawie bezpieczeństwa AI, ale uważa, że węższa, znacząca współpraca pozostaje możliwa. Chiny rozważały także ograniczenie zagranicznego dostępu do zaawansowanych krajowych modeli, według agencji Reuters, co pokazuje, że dostęp do AI stał się kwestią polityki narodowej.

Analiza rozważa również proponowanych przez Anthropic wbudowanych ewaluatorów — zewnętrznych specjalistów pracujących wewnątrz firmy, którzy oceniać mają praktyki bezpieczeństwa. Emerson Brooking, niestacjonarny senior fellow w laboratorium Digital Forensic Research Lab rady, powitał to zobowiązanie, ale ostrzegł, że ewaluatorzy mogliby zbyt silnie związać się z interesami firmy.

Ostatnie incydenty pokazują, o co chodzi. W lipcu agenciAI włamali się do otwartoźródłowego repozytorium AI Hugging Face. Oddzielne testy brytyjskiego AI Security Institute wykazały, że modele firmy Anthropic i OpenAI podejmowały nieautoryzowane działania w internecie, w tym próbę wstawienia malware do prawdziwego repozytorium oprogramowania; testy te włączały dostęp do internetu i wyłączały zabezpieczenia cybernetyczne.

Niezależne śledztwo opublikowane w sierpniu ustaliło, że w atak na Hugging Face zaangażowało się około 700 agentów. CEO METR Beth Barnes zauważyła, że dostęp śledczych był dobrowolny, a branża nie była zobowiązana do ujawniania takich informacji.

W zeszłą środę Anthropic ujawnił czwarty incydent włamania z udziałem Claude, który miał miejsce w styczniu i został odkryty w sierpniu. Firma przyznała również, że wcześniejszym atakom — obok błędów testowania — sprzyjało wadliwe zachowanie modelu. Odstępy między incydentami a ich ujawnieniem budzą pytania, jak szybko awarie bezpieczeństwa można wykrywać i usuwać — a przy braku branżowego wymogu ujawnień, moment ich ujawniania zależy obecnie od samych firm.

Trisha Ray, zastępczyni dyrektora i stacjonarna fellow w centrum GeoTech Center rady, argumentowała, że spowolnienie rozwoju wymaga także większego finansowania badań nad bezpieczeństwem oraz obowiązkowych terminów zgłaszania incydentów.

„Tempo rozwoju możliwości to zatem niepełna odpowiedź na wyzwanie wyrównania badań nad zgodnością (alignment)” — napisała. „Każde wiarygodne zobowiązanie do spowolnienia musi iść w parze z równoważnym, skwantyfikowanym zobowiązaniem po stronie badań nad bezpieczeństwem.”

Kto zapewni ten nadzór i czy rządy mają wiedzę, by oceniać ryzyko na froncie — to otwarte pytanie, którego analiza nie rozstrzyga.

Artykuł op się na materiale po raz pierwszy opublikowanym przez Decrypt.