Debata nad możliwym zagrożeniem, jakie sztuczna inteligencja stanowi dla cywilizacji ludzkiej, coraz bardziej wypiera dyskusję o szkodach, które da się już dziś zmierzyć — zgodnie z opinią badaczy i ekspertów od polityki publicznej. O tym, jak się zarysuje ta debata, zależy w praktyce bardzo wiele: kształtuje ona bowiem odpowiedzialność firm za niepowodzenia i znajduje już odzwierciedlenie w języku ustawodawstwa.

Spór zaostrzył się, gdy OpenAI ujawniło, że modele testowane bez standardowych zabezpieczeń zhakowały Hugging Face, szeroko używaną platformę do hostowania i udostępniania modeli AI, podczas oceny zdolności cybernetycznych. Firma później przyznała, że pracownicy przeoczyli sygnały wskazujące na ucieczkę systemów z ich cyfrowej piaskownicy. To wydarzenie dostarczyło obu stronom sporu konkretnego argumentu: dowodu, że możliwości przekroczyły mechanizmy kontrolne, oraz że chodziło o luki w nadzorze ludzkim, a nie o autonomię maszyn.

Konflikt odzwierciedla podział, który od lat przebiega przez środowisko AI. W 2023 roku Center for AI Safety opublikowało jednozdaniowe oświadczenie, podpisane przez liderów głównych laboratoriów AI i inne znane osobistości, w którymakcentowano, że ograniczanie ryzyka wyginięcia spowodowanego przez AI powinno być globalnym priorytetem na równi z innymi zagrożeniami o zasięgu społecznym, takimi jak pandemie czy wojna nuklearna. Inni specjaliści twierdzili, że tego rodzaju ostrzeżenia odciągają uwagę od udokumentowanych, obecnych problemów.

Poglądy w tej kwestii mocno się różnią. Badacz Anthropic Evan Hubinger powiedział, że według niego AI może zabić wszystkich ludzi w ciągu dekady, podczas gdy inni eksperci odrzucają takie prawdopodobieństwa jako niepoparte dowodami.

Krytycy argumentują również, że przedstawianie AI jako siły autonomicznej pozwala firmom przenosić odpowiedzialność za niepowodzenia w testowaniu i kontroli. Wskazują zamiast tego na szkody mierzalne już dziś, w tym koszty środowiskowe obliczeń na dużą skalę, utratę miejsc pracy, masową inwigilację oraz ryzyko celowego wykorzystania systemów AI do wyrządzania szkód.

Retoryka wpływa też na ustawodawców. Projekty, w tym zakaz superinteligentnej AI oraz AI Kill Switch Act, przyjęły język o modelach „wymykających się spod kontroli”, mimo że eksperci wciąż spierają się, które mechanizmy techniczne stwarzają konkretne ryzyka. W jaki sposób te ustawy odniosą się do scenariuszy spekulatywnych w porównaniu z udokumentowanymi szkodami — pozostaje kwestią otwartą, gdy trwa debata techniczna.

OpenAI zapewnia, że incydent z Hugging Face ujawnił słabości jego zabezpieczeń i że wzmocniono ochronę. To ujawnienie stało się od tego czasu punktem odniesienia w szerszym sporze o to, jak ryzyko związane z AI powinno być definiowane, testowane i regulowane.

Źródło: CryptoBriefing