Gubernator Banku Anglii i przewodniczący Financial Stability Board, Andrew Bailey, ostrzegł, że kraje nie są przygotowane na konsekwencje zaawansowanej AI, a szersza gospodarka pozostaje podatna na gwałtowną korektę rynkową wywołaną możliwym spadkiem akcji spółek AI i technologicznych.

Przed spotkaniem ministrów finansów G20 Bailey ostrzegł, że wysoka emisja długu publicznego, słabości w private credit oraz „napięte” wyceny inwestycji w AI wywierają presję na rynki.

Powiedział, że wysoki poziom zadłużenia służącego finansowaniu boomu AI może „wzmocnić przyszłą korektę rynkową” i narazić globalne rynki na ryzyko.

„Pozostaję więc zaniepokojony, że duży wstrząs lub połączenie wstrząsów mogłoby jednocześnie uruchomić wiele podatności”, napisał Bailey.

Wiele największych spółek na świecie, w tym Nvidia i Microsoft, liczy na znaczne zyski w ciągu najbliższego roku po tym, jak finansujący wsparli duże inwestycje w chipy, oprogramowanie i inne aktywa cyfrowe.

Spadek cen akcji mógłby wymazać biliony dolarów wartości, zmuszając inwestorów do dostosowania portfeli na rynkach obligacji i w innych sektorach, potencjalnie uruchamiając reakcję łańcuchową. To sprawia, że sprawa dotyczy nie tylko inwestorów, ale też regulatorów finansowych, ponieważ ryzyka wskazane przez Baileya obejmują dług publiczny, private credit i wyceny technologii, a nie jeden rynek.

Kilku wysokich rangą przedstawicieli sektora finansowego zgłaszało podobne obawy, a zastępczyni gubernatora Banku Anglii Sarah Breeden ostrzegła, że ceny akcji mogą spaść, ponieważ wysokie wyceny nie odzwierciedlają ryzyk w globalnej gospodarce.

Bailey powiedział również, że zaawansowana AI stwarza specyficzne i ewoluujące ryzyko dla cyberbezpieczeństwa.

„Krajobraz ryzyka został dodatkowo skomplikowany przez pojawienie się frontier AI models, które wykazują coraz bardziej zaawansowaną autonomię i zdolność rozwiązywania problemów, a także zdolności ofensywne”, powiedział.

„Dla systemu finansowego najbardziej bezpośrednią obawą jest potencjalny wpływ frontier AI na ryzyko cybernetyczne.

„Frontier AI może mieć możliwość istotnego zmienienia szybkości, skali i ekonomiki ryzyka cybernetycznego, co mogłoby podważyć zaufanie do rynku w całym systemie.”

Ostrzegł, że kryzys cybernetyczny w jednej instytucji mógłby szybko rozprzestrzenić się na inne firmy i systemy.

„Globalny system finansowy jest silnie powiązany, a zakłócenia cybernetyczne mogą rozprzestrzeniać się między jurysdykcjami za pośrednictwem wspólnych dostawców technologii, współdzielonej infrastruktury i transgranicznej działalności finansowej”, powiedział.

Kraje „nie mają” zasad dla AI

Bailey, którego rola w FSB obejmuje koordynowanie reakcji na problemy globalnego systemu finansowego, powiedział, że kilka krajów nie jest przygotowanych na skutki ryzyk związanych z AI dla cyberbezpieczeństwa.

Stwierdził, że kilka jurysdykcji „nie ma wdrożonych protokołów” do zarządzania wprowadzaniem zaawansowanych modeli AI, co „zwiększa ryzyko dla sektora finansowego i poza nim”.

Jego ostrzeżenia pojawiają się w momencie, gdy regulatorzy i rządy starają się zapewnić, by nowe modele nie były w stanie włamywać się do systemów.

Model Mythos firmy Anthropic, testowany przez niektóre agencje rządowe, takie jak UK, został wcześniej w tym roku wskazany jako kluczowe ryzyko. Firma z Silicon Valley powiedziała, że jej model Fable 5 jest bezpieczniejszą wersją Mythos.

Meta i OpenAI również przyznały, że modele AI zdołały połączyć się z internetem i włamać do innych usług.

Bailey powiedział, że istnieje „większa liczba podatności”, a FSB pracuje obecnie nad wsparciem „bezpiecznego wdrażania frontier models” w firmach z sektora usług finansowych.

Przed spotkaniem G20 w North Carolina Chancellor John Healey powiedział, że jego najwyższym priorytetem będzie „good growth”.

Oczekuje się również, że powie, iż emisja giltów w UK będzie w tym roku o £58bn niższa niż w ubiegłym roku. Mają się także odbyć rozmowy o finansowaniu gwałtownego wzrostu wydatków na obronność.