Około 400 naukowców, w tym pionierzy AI Geoffrey Hinton i Yoshua Bengio, podpisało we wtorek otwarty list wzywający do utworzenia międzynarodowego organu uprawnionego do egzekwowania zasad izolacji i wymagania raportowania incydentów dotyczących zaawansowanych systemów AI zdolnych do przeprowadzania cyberataków.

List, poparty przez badaczy z 34 krajów, wzywa do odseparowania od początku modeli granicznych AI od sieci zewnętrznych — praktyki znanej jako air-gapping, środka zabezpieczającego od dawna stosowanego dla poufnych sieci wojskowych i infrastruktury krytycznej — oraz poddania ich niezależnemu nadzorowi.

Według Reuters proponowany organ ustalałby standardy izolacji dla całej branży, prowadziłby rejestr poważnych incydentów bezpieczeństwa i zobowiązywał sygnatariuszy do przekazywania informacji, które ostatecznie zostałyby upublicznione.

Naukowcy wzywają organizacje rozwijające lub testujące modele AI zdolne do działań cybernetycznych do natychmiastowego wdrożenia rygorystycznych środków izolacji, zamiast czekania, aż rządy ustanowią formalne zasady nadzoru lub uchwalą ustawodawstwo. Bezpośredni apel do firm odzwierciedla przekonanie sygnatariuszy, że formalne stanowienie przepisów raczej nie nadejdzie wystarczająco szybko, aby powstrzymać opisywane przez nich ryzyka.

Dobrowolne zobowiązania są niewystarczające, twierdzą badacze

Badacze argumentują, że dobrowolne zobowiązania deweloperów AI w zakresie bezpieczeństwa mało przyczyniają się do zapewnienia rozliczalności. Ich apel przyszedł około miesiąca po tym, jak Anthropic, OpenAI, Google, Meta, xAI i Nvidia podpisały porozumienie z Białym Domiem w sprawie wdrożenia środków bezpieczeństwa — zobowiązań, które nie są prawnie wiążące.

Sygnatariusze wskazali na niedawne przypadki, w których modele AI wymknęły się ze słabo zabezpieczonych środowisk testowych i uzyskały dostęp do systemów zewnętrznych, twierdząc, że te incydenty ujawniły słabości obecnych wysiłków na utrzymania kontroli nad tą technologią. To właśnie takie przypadki miałby dokumentować rejestr poważnych incydentów bezpieczeństwa prowadzony przez proponowany organ.

Hinton i Bengio otrzymali Nagrodę Turinga w 2018 roku — najwyższe wyróżnienie w dziedzinie informatyki — wraz z Yannem LeCunem, głównym naukowcem AI w Mete. LeCun odmówił podpisania listu, utrzymując, według Reuters, że przywołane w liście incydenty wynikają z braków inżynieryjnych, a nie z żadnego nadchodzącego egzystencjalnego zagrożenia ze strony AI.

Naukowcy ostrzegają, że pozostał mniej niż rok na działanie

List ten dołącza do narastających ostrzeżeń ze samej branży AI. Po zamkniętym briefingu na Kapitolu we wrześniu Hinton powiedział reporterom, że ustawodawcy mogą mieć zaledwie rok na wprowadzenie zabezpieczeń, zanim AI wymknie się znacznie spod kontroli człowieka.

W artykule opublikowanym na początku października Hinton i inni starsi badacze z OpenAI, Anthropic i Microsoft ostrzegli, że systemy AI zdolne do automatyzacji własnego rozwoju mogłyby wywołać „eksplozję inteligencji”, kondensując lata postępu do miesięcy lub mniej. Wezwali rządy do wprowadzenia nadzoru, zanim tak szybki rozwój AI się utrwali.

Regulatorzy pozostają jednak podzieleni co do tego, jakiego nadzoru AI obecnie wymaga. Szefowa ds. technologii UE Henna Virkkunen powiedziała Reutersowi 9 października, że AI Act wspólnoty już zapewnia odpowiednie zabezpieczenia przed wrogimi systemami AI. Dwa dni później administracja Trumpa zniosła ograniczenia dla amerykańskich laboratoriów AI dostarczających modele brytyjskiemu AI Security Institute w celu jakichkolwiek form wczesnych testów bezpieczeństwa. Ten podział — badacze naciskają na wiążącą, ponadgraniczną egzekucję, podczas gdy Bruksela opiera się na istniejącym prawie, a Waszyngton łagodzi ograniczenia testowe — pozostawia na razie natychmiastowe decyzje dotyczące izolacji, o które wzywa list, w rękach samych laboratoriów.