Wysoka komisarz Narodów Zjednoczonych ds. praw człowieka Volker Türk ostrzegła 7 września, mówiąc na forum Rady Praw Człowieka w Genewie, że sztuczna inteligencja osiąga punkt, w którym może stanowić egzystencjalne zagrożenie dla ludzkości.

Türk wezwała rządy do szybkiego działania w celu budowy zabezpieczeń i okiełznania laboratoriów AI ścigających się o przywództwo w technologii systemów autonomicznych, argumentując, że narastające naruszenia i incydenty bezpieczeństwa pokazują ryzyko wymknięcia się tej dziedziny spod kontroli.

Głównym zmartwieniem przedstawicielki ONZ jest to, że technologia AI rozwija się szybciej niż systemy zarządzania mające ją nadzorować. Ostrzeżenie pada w scenerii rozdrobnionego krajobrazu regulacyjnego: najdalej posunęła się Unia Europejska ze swoim AI Act, który wszedł w życie w 2024 roku i stopniowo wprowadza obowiązki dla systemów wysokiego ryzyka, podczas gdy Stany Zjednoczone opierają się w dużej mierze na regulacjach sektorowych i dobrowolnych zobowiązaniach, a wiążąca koordynacja międzynarodowa pozostaje ograniczona. Według Türk niekontrolowany rozwój wypchnął zagrożenie poza dezinformację i utratę miejsc pracy w obszar egzystencjalny, obejmujący bezpieczeństwo, odpowiedzialność oraz brak realnego nadzoru nad wysoce autonomicznymi systemami.

Wezwanie do pilnych działań międzynarodowych

Türk uzasadniała swój apel o skoordynowane działanie międzynarodowe zamykającym się oknem czasowym, w którym możliwości AI da się jeszcze ograniczyć. Skrytykowała również fakt, że tempo i kierunek rozwoju tej dziedziny znajdują się nieproporcjonalnie w rękach wąskiego kręgu kierowników firm technologicznych.

Jako rozwiązanie Türk zaproponowała, aby kraje będące siedzibami czołowych firm AI oraz te kontrolujące krytyczne łańcuchy dostaw — grupa obejmująca Stany Zjednoczone i Chiny, dom większości rozwoju zaawansowanej AI i produkcji nowoczesnych chipów — wyznaczyły „czerwone linie” określające, jak daleko są skłonne dopuścić rozwój tej technologii.

Wysoka komisarz wraca do tematu, którym ONZ zajęła się podczas pierwszego Globalnego Dialogu o Zarządzaniu AI, odbywającego się w lipcu w tym samym szwajcarskim mieście (oświadczenie ONZ).

Na szczycie ITU „AI for Good”, gdzie rozpoczęła się ta rozmowa, Türk powiedziała: „Nie traktujemy standardów bezpieczeństwa dla leków, samochodów czy samolotów jako przeszkód dla postępu. To właśnie one są powodem, dla którego ludzie ufają tym technologiom” — zgodnie z nagraniem ONZ. Nadzór ludzki, dodała, „nie może być jedynie formalnym rubber stampem”.

Dowody przedstawione na tamtym szczycie obejmowały ustalenia Soni Livingstone z powołanego przez ONZ Globalnego Panelu Naukowego ds. AI. W badaniu obejmującym 11 krajów Globalnego Południa co najmniej jedno dziecko na klasę szkolną zgłosiło, że stało się obiektem seksualnie jednoznacznych deepfake'ów AI.

Szefowa ONZ Women Sima Bahous zwróciła uwagę na wymiar genderowy problemu. Wskazała, że około 88% czołowych badaczy AI to mężczyźni, oraz podała, że co najmniej jedna na cztery ankietowane przez jej agencję aktywistki i dziennikarki zetknęła się z nadużyciami online wspomaganymi przez AI.

Laboratoria AI i prawodawcy reagują

ONZ nie jest jedyna w wołaniu o alarm tego lata. Senator USA Bernie Sanders wezwał do natychmiastowego wstrzymania prac nad zaawansowaną AI i trwałego zakazu superinteligencji, a międzypartyjna grupa brytyjskich parlamentarzystów dążyła do ustawowo wymagalnych „wyłączników awaryjnych” (kill switches) dla AI po tym, jak opisała serię incydentów z „zbuntowaną” AI.

Obawy te pojawiły się po twierdzeniu OpenAI, związanym z jego modelem GPT-6 Astra, że jego technologia osiągnęła sztuczną inteligencję ogólną, oraz po przyznaniu przez Anthropic, że jego własne modele „nie są doskonale zgodne” z ludzkimi wartościami.

Część presji pochodzi także z samej branży. W czerwcowym eseju opisanym przez Axios CEO Anthropic Dario Amodei argumentował, że rządy powinny posiadać prawne uprawnienia do blokowania lub odwracania niebezpiecznych wdrożeń AI oraz że modele graniczne (frontier) powinny przechodzić obowiązkowe testy porównywalne z tymi dla samochodów, samolotów czy nowych leków.

We własnym wystąpieniu przed Radą Türk rozszerzyła ten argument na dziedzinę wojny, popierając wezwania do zakazania broni zdolnej zabijać bez udziału człowieka — kwestii, którą państwa członkowskie ONZ debatują od lat, nie zawierając wiążącego prawnie traktatu o broni autonomicznej.