Król Karol III powiedział szefom największych firm zajmujących się sztuczną inteligencją, że muszą znaleźć sposoby na utrzymanie tej technologii pod kontrolą człowieka, ostrzegając, że sami jej twórcy obawiają się teraz, iż może ona rozwinąć „mroczne zdolności”, a nawet zostać wykorzystana do zabijania.

Prywatne spotkanie w Szkocji

Król wygłosił te uwagi w Dumfries House w East Ayrshire w Szkocji, podczas spotkania zorganizowanego przez Ditchley Foundation. Na wydarzenie przybyło około 30 dyrektorów, urzędników i badaczy, w tym brytyjski minister ds. AI Kanishka Narayan, dyrektor generalny Nvidia Jensen Huang, współzałożyciel DeepMind Demis Hassabis, dyrektor finansowa OpenAI Sarah Friar oraz szef ds. globalnych spraw Anthropic Tino Cuéllar.

Według prywatnej listy gości, do której wgląd miał Bloomberg, na liście zaproszonych znaleźli się rzekomo także szef MI6 Blaise Metreweli, autor Yuval Noah Harari oraz Xue Lan z Uniwersytetu Tsinghua. Szeroki grono obecnych — dyrektorzy laboratoriów granicznych obok ministra rządu, szefa wywiadu, autora i doradcy Watykanu — pokazało, jak daleko bezpieczeństwo AI zaszedło od debaty technicznej do kwestii geopolityki.

Karol, w wieku 77 lat, przemawiał tylko przez około 20 minut, po czym opuścił salę, mając nadzieję na owocne dyskusje. Ci, którzy cenią moralny rdzeń ludzkości, powiedział, „z niepokojem oczekują od was zapewnienia, że nie stracimy kontroli nad naszym przeznaczeniem ani nad naszymi duszami”.

„Intrygujący i jednocześnie głęboko niepokojący”

Monarcha opisał tempo rozwoju technologii jako „zarówno intrygujące, jak i głęboko niepokojące w równym stopniu”. Chwalił jej osiągnięcia w medycynie i naukach o życiu, zanim zadał publiczności bezpośrednie pytanie: „Czyż nie potrzebujemy wystarczających środków kontroli, zanim będzie już za późno?”

Król wskazał na obawy samych twórców AI, mówiąc, że systemy ryzykują „rozwojem mrocznych zdolności, być może nawet do odbierania życia”. Wezwał dyrektorów do rozważenia „egzystencjalnych zagrożeń” związanych z wpadnięciem takich narzędzi w niepowołane ręce.

Nie było to pierwszy raz, gdy Karol wyrażał takie obawy: w 2023 roku wysłał wiadomość wideo na szczyt AI Safety Summit w Bletchley Park w Wielkiej Brytanii, wyrażając podobne sentymenty. Watykański doradca ds. AI Paolo Benanti uczestniczył w szkockim szczycie, a papież Leon XIV napisał w majowej encyklice, że AI nie może pozostać w rękach „nielicznych”.

Co powiedzieli liderzy AI

Demis Hassabis powiedział uczestnikom, że ogólna sztuczna inteligencja (AGI) — systemy zdolne do dorównania lub prześcignięcia ludzi w wielu zadaniach — jest „prawdopodobnie oddalona tylko o lat”. Powiedział, że taka technologia może mieć wpływ dziesięć razy większy niż rewolucja przemysłowa. Dodał, że szansa na coś niepomyślnego to „zdecydowanie niezerowe prawdopodobieństwo”, choć zaraz dodał, że „przyszłość nie jest jeszcze napisana”.

Sarah Friar powiedziała, że rosnąca moc technologii rodzi pytania o utrzymanie jej w służbie ludzi, dodając, że „żadna pojedyncza firma ani rząd nie może zrobić tego samodzielnie”.

Huang, którego Nvidia jest wyceniana na blisko 5,15 biliona dolarów, powiedział zebranym, że bezpieczeństwo jest sprawą nadrzędną i że produkt powinien zostać wstrzymany, jeśli nie jest gotowy. Opowiadał się za regulowaniem produktów AI, a nie samej technologii, i bronił otwartych modeli jako sposobu na zapobieżenie wykluczeniu mniejszych krajów i badaczy. To rozróżnienie — przepisy dotyczące samej technologii versus przepisy dotyczące produktów na niej opartych — leży w centrum światowych debat regulacyjnych. W zestawieniu z ostrzeżeniem Friar, że żaden pojedynczy podmiot nie może samodzielnie zarządzać technologią, wymiana zdań naszkicowała dwa główne podejścia kształtujące obecnie nadzór nad AI: gdzie powinny być osadzone przepisy i kto musi je ponosić.

Debatę wyostrzyły ostrzeżenia branży

Szczyt odbył się na tle wewnętrznego alarmu w branży, po wirusowym poście o rezygnacji badacza Anthropic Jacoba Coxona i prognozie jego kolegi Evana Hubingera, że AI ma 10% szans na spowodowanie wymarcia ludzkości. Cryptopolitan informował, że Dario Amodei z Anthropic opublikował esej wzywający laboratoria do „tempowania frontier”, a OpenAI w tym tygodniu uruchomiła system mający ujawniać niewłaściwe zachowania modeli po zarejestrowaniu sześciu incydentów niepokojącego zachowania.

Jednak nie wszyscy przyjmują, że zagrożenie jest realne: prezydent Donald Trump określił takie obawy mianem „mistyfikacji”. Jak ta luka zostanie zlikwidowana — poprzez zabezpieczenia budowane przez laboratoria, takie jak nowy system ujawniania OpenAI, regulację produktów popieraną przez Huanga czy wzywane przez Amodei „tempowanie” frontier — to pytanie, które teraz towarzyszy dyrektorom opuszczającym Dumfries House.

Źródło: Cryptopolitan