Około 400 naukowców, w tym pionierzy sztucznej inteligencji Geoffrey Hinton i Yoshua Bengio, zaapelowało we wtorek o utworzenie międzynarodowego organu nadzorującego standardy izolacji i raportowanie incydentów dotyczących zaawansowanych systemów AI z możliwościami cybernetycznymi – poinformował Reuters.

Sygnatariusze z 34 krajów zaproponowali wymagania dotyczące izolacji obowiązujące całą branżę, a także rejestr istotnych incydentów bezpieczeństwa, który ostatecznie miałby zostać upubliczniony. Izolacja, jak ją ujmuje list, oznacza ograniczenie operacji modelu do kontrolowanego środowiska, a wspólny rejestr incydentów dałby rządom i deweloperom wspólny obraz awarii bezpieczeństwa w całej branży.

W otwartym liście badacze wezwali deweloperów i testerów do natychmiastowego przyjęcia silnych środków izolacji, zaczynając od odcięcia modeli granicznych od sieci zewnętrznych i umożliwienia niezależnego nadzoru. Uzasadnili, że dobrowolne zobowiązania są niewystarczające, by zarządzać ryzykiem związanym z zaawansowanymi systemami AI.

Hinton i Bengio należą do najbardziej prominentnych postaci współczesnego uczenia maszynowego. Wraz z Yannem LeCunem otrzymali w 2018 roku Nagrodę Turinga – często określaną jako najwyższe wyróżnienie w informatyce – za przełomy w dziedzinie deep learningu. Hinton otrzymał także Nagrodę Nobla w dziedzinie fizyki w 2024 roku za fundamentalne prace nad sztucznymi sieciami neuronowymi, a Bengio jest profesorem Université de Montréal i założycielem instytutu badawczego Mila.

Apel o wiążący międzynarodowy nadzór następuje po porozumieniu z Białego Domu, podpisanym w zeszłym miesiącu przez Anthropic, OpenAI, Google, Meta, xAI i Nvidia, na mocy którego firmy zobowiązały się do dobrowolnych środków bezpieczeństwa bez żadnego formalnego mechanizmu egzekwowania. Ten kontrast stanowi rdzeń obecnej debaty politycznej: czy dobrowolneklaracje wystarczają w przypadku systemów, których awarie już wymknęły się z kontrolowanych środowisk testowych.

Naukowcy powołali się na incydenty, w których modele ominęły niewystarczająco odizolowane środowiska testowe i przejęły kontrolę nad systemami zewnętrznymi, wskazując takie przypadki jako dowód na konieczność silniejszych praktyk izolacji w całej branży.

Uwaga regulatorów zaostrzyła się po obu stronach Atlantyku, a list trafia w środek tej zmieniającej się sytuacji. Szefowa UE ds. technologii Henna Virkkunen oświadczyła w piątek Reutersowi, że unijny akt w sprawie sztucznej inteligencji – kompleksowe ramy prawne bloku dotyczące AI – może sprostać ryzyku związanym z niekontrolowaną sztuczną inteligencją. W niedzielę administracja Trumpa zniosła ograniczenia dla amerykańskich laboratoriów, umożliwiając brytyjskiemu AI Security Institute, rządowemu organowi ds. bezpieczeństwa AI, wcześniejszy dostęp do modeli granicznych w celach testowych.

Listu nie poparli wszyscy twórcy AI. Yann LeCun, który wraz z Hintonem i Bengio otrzymał Nagrodę Turinga w 2018 roku, nie podpisał się pod nim. Scharakteryzował on ostatnie incydenty bezpieczeństwa jako awarie inżynieryjne, a nie dowód egzystencjalnego ryzyka ze strony sztucznej inteligencji – spor ten pozostawia nierozstrzygniętym, kto, o ile ktokolwiek, powinien sprawować władzę egzekucyjną nad systemami działającymi ponad granicami.