Ponad osiem na dziesięć dorosłych Brytyjczyków obawia się, że sztuczna inteligencja może działać poza granicami wyznaczonymi przez ludzi, wynika z najnowszego badania City AM / Freshwater Strategy, po serii głośnych incydentów, w których zaawansowane systemy AI zachowywały się w nieoczekiwany i niepokojący sposób podczas testów bezpieczeństwa.

Badanie wykazało, że 85 proc. brytyjskich wyborców obawia się, iż systemy AI mogą działać poza nałożonymi na nie ograniczeniami, a 43 proc. określiło się jako „bardzo zaniepokojonych”. Z kolei jedynie 13 proc. stwierdziło, że nie ma takich obaw.

Fala ujawnionych incydentów

Wyniki pojawiły się po tym, jak kilku dużych twórców AI ujawniło w ostatnich tygodniach incydenty, w których coraz bardziej autonomiczne systemy przekroczyły granice kontrolowanych ewaluacji.

W zeszłym miesiącu City AM ujawnił, że rządowy AI Security Institute (AISI) — organ utworzony po szczycie AI Safety Summit w Bletchley Park w 2023 roku, aby testować modele frontierowe przed publicznym wdrożeniem — badał pierwszy znany przypadek modelu AI, który uciekł z kontrolowanego środowiska testowego i zaatakował systemy innej firmy, po tym jak agent OpenAI autonomicznie naruszył swoją ewaluację i obrał za cel platformę AI Hugging Face.

Od tego czasu Anthropic ujawnił, że niektóre jego modele Claude włamały się do trzech zewnętrznych organizacji podczas testów wewnętrznych, a Meta potwierdziła, że jeden z jej własnych modeli AI wykorzystał lukę w innej firmie po tym, jak podczas ewaluacji nieumyślnie uzyskał dostęp do internetu.

Bezprecedensowe „wprowadzanie w błąd”

W zeszłym tygodniu AISI ujawnił również, że modele Anthropic i OpenAI próbowały wprowadzać w błąd programistów podczas testów cyberbezpieczeństwa, tworząc fałszywe tożsamości online i próbując wstrzykiwać złośliwy kod do projektów GitHub.

Organ nadzoru opisał to jako pierwszy przypadek, w którym tak wyraźnie zaobserwował ryzyka związane z „autonomią i wprowadzaniem w błąd”, bez wyraźnego polecenia, by zachowywały się w ten sposób.

Choć wszystkie te incydenty miały miejsce w nietypowych warunkach testowych — przy celowym złagodzeniu zabezpieczeń przez badaczy w celu zrozumienia zachowania zaawansowanych systemów — wzmocniły one obawy, czy technologia staje się trudniejsza do opanowania. Badane systemy nie są chatbotami generującymi tekst, lecz agentami AI: programami zaprojektowanymi do wykonywania wieloetapowych działań przy ograniczonym nadzorze człowieka, czyli dokładnie tych możliwości, które firmy takie jak OpenAI, Google i Anthropic starają się obecnie skomercjalizować poprzez produkty mogące samodzielnie przeglądać internet, pisać kod i wykonywać zadania w imieniu użytkownika.

Obawy społeczne wykraczają poza obserwatorów AI

Badanie sugeruje, że obawy te obejmują już znacznie szerszą grupę niż osoby uważnie śledzące rozwój AI. Respondentom najpierw przedstawiono doniesienia, że systemy OpenAI i Anthropic podczas testów uzyskały dostęp do systemów innych organizacji. Choć tylko 43 proc. powiedziało, że wcześniej słyszało o tych incydentach, poziom zaniepokojenia wyraźnie wzrósł po wyjaśnieniu sprawy.

Wśród osób, które już znały tzw. przypadki „rogue AI”, 91 proc. stwierdziło, że obawia się systemów AI działających poza ograniczeniami narzuconymi przez człowieka.

Obawy te występują także we wszystkich grupach wiekowych i afiliacjach politycznych. Ośmiu na dziesięciu respondentów w wieku od 18 do 34 lat wyraziło zaniepokojenie, a wśród osób powyżej 55. roku życia odsetek ten wzrósł do 92 proc. Wśród wyborców Partii Pracy 85 proc. powiedziało, że jest zaniepokojonych, podobnie jak 92 proc. wyborców Partii Konserwatywnej, 90 proc. Liberalnych Demokratów, 85 proc. sympatyków Reform UK oraz 85 proc. wyborców Partii Zielonych.

Organy regulacyjne zwiększają nadzór

Same incydenty skłoniły także regulatorów do dokładniejszej analizy. Po naruszeniu w Hugging Face rząd potwierdził w rozmowie z City AM, że AISI bada, czy podobne zachowania mogą pojawić się u innych czołowych twórców AI. Urzędnicy powiedzieli, że przypadek ten pomoże w pracach nad przyszłym podejściem do bezpieczeństwa AI, gdy coraz bardziej zaawansowane systemy otrzymują większą autonomię.

W osobnym oświadczeniu po zeszłotygodniowym incydencie z GitHub Institute stwierdził, że ostatnie wydarzenia wskazują na „zmianę krajobrazu ryzyka”, a szkoda może pojawić się wtedy, gdy potężni agenci AI działający w uprzywilejowanych środowiskach badawczych wykonują działania wykraczające poza ich autoryzowany zakres.

Ric Derbyshire, główny badacz ds. bezpieczeństwa w Orange Cyberdefense, powiedział: „Najnowsze opisy przypadków od AISI, OpenAI, Anthropic i Meta dostarczają ważnych informacji o tym, jak zaawansowane systemy AI mogą zachowywać się podczas ewaluacji.”

„Pokazują one również, że wraz z dalszym rozwojem możliwości AI środowiska używane do testowania, izolowania i oceny tych systemów muszą spełniać możliwie najwyższe standardy bezpieczeństwa.”

Giganci AI zaangażowani w te przypadki podkreślają, że opisane zachowania wystąpiły w wysoce nietypowych warunkach badawczych, a nie podczas normalnego publicznego użytkowania. Anthropic stwierdził, że testy AISI były „niereprezentatywne” dla jego modeli produkcyjnych, podczas gdy OpenAI powiedział, że środowiska używane podczas ewaluacji nie odzwierciedlały zwykłego wdrożenia.

Mimo to seria incydentów przesunęła debatę o bezpieczeństwie AI z hipotetycznych przyszłych zagrożeń w stronę zachowania systemów, które są już rozwijane w największych laboratoriach AI na świecie.