De gouverneur van de Bank of England en voorzitter van de Financial Stability Board, Andrew Bailey, heeft gewaarschuwd dat landen niet voorbereid zijn op de gevolgen van geavanceerde AI en dat de bredere economie kwetsbaar blijft voor een dramatische marktcorrectie die kan worden veroorzaakt door een mogelijke terugval in AI- en techaandelen.

Voorafgaand aan een G20-bijeenkomst tussen ministers van Financiën waarschuwde Bailey dat hoge uitgifte van staatschuld, kwetsbaarheden in private credit en “opgerekte” prijzen voor AI-investeringen druk op de markten zetten.

Hij zei dat hoge niveaus van lenen om een AI-boom te financieren een toekomstige marktcorrectie konden “versterken” en de wereldwijde markten in gevaar konden brengen.

“I remain concerned therefore that a large shock or combination of shocks could concurrently trigger multiple vulnerabilities,” Bailey wrote.

Veel van ’s werelds grootste bedrijven, waaronder Nvidia en Microsoft, rekenen op aanzienlijke opbrengsten in het komende jaar nadat financiers zware investeringen in chips, software en andere digitale activa hebben gesteund.

Een daling van de aandelenkoersen zou biljoenen dollars aan waarde kunnen wegvagen, waardoor beleggers hun posities in obligatiemarkten en andere sectoren moeten aanpassen, wat mogelijk een kettingreactie op gang brengt. Dat maakt de kwestie niet alleen relevant voor beleggers, maar ook voor financiële toezichthouders, omdat de risico’s die Bailey noemde verspreid zijn over staatsleningen, private credit en technologiewaarderingen en niet binnen één enkele markt vallen.

Verschillende hoge financiële functionarissen hebben vergelijkbare zorgen geuit, waarbij Sarah Breeden, vicegouverneur van de Bank of England, waarschuwde dat aandelenkoersen kunnen dalen omdat hoge waarderingen de risico’s in de wereldeconomie niet weerspiegelen.

Bailey zei ook dat geavanceerde AI een specifiek en zich ontwikkelend cyberbeveiligingsrisico vormt.

“Het risicolandschap is verder gecompliceerd door de opkomst van frontier-AI-modellen, die steeds geavanceerdere autonomie en probleemoplossende capaciteiten laten zien, evenals bedreigingsmogelijkheden,” zei hij.

“Voor het financiële stelsel is de meest directe zorg de mogelijke impact van frontier AI op cyberrisico.

“Frontier AI kan de snelheid, schaal en economie van cyberrisico’s wezenlijk veranderen, wat het vertrouwen in de markt op systeemniveau zou kunnen ondermijnen.”

Hij waarschuwde dat een cybercrisis bij één instelling zich snel kan verspreiden naar andere bedrijven en systemen.

“Het wereldwijde financiële stelsel is sterk onderling verbonden en cyberverstoring kan zich over jurisdicties verspreiden via gemeenschappelijke technologieproviders, gedeelde infrastructuur en grensoverschrijdende financiële activiteiten,” zei hij.

Landen ‘hebben geen’ regels voor AI

Bailey, wiens rol bij de FSB bestaat uit het coördineren van reacties op problemen waarmee het wereldwijde financiële stelsel wordt geconfronteerd, zei dat meerdere landen niet voorbereid zijn om de cyberbeveiligingsgevolgen van AI-risico’s op te vangen.

Hij zei dat meerdere jurisdicties “niet over de protocollen beschikken” om de uitrol van geavanceerde AI-modellen te beheren, waardoor de “risico’s voor de financiële sector en daarbuiten toenemen”.

Zijn waarschuwingen over de dreiging van AI komen op een moment dat toezichthouders en overheden zich inspannen om ervoor te zorgen dat nieuwe modellen geen toegang krijgen tot systemen.

Anthropic’s Mythos-model, dat door sommige overheidsinstanties zoals het VK werd getest, werd eerder dit jaar aangemerkt als een belangrijk risico. Het Silicon Valley-bedrijf zei dat zijn Fable 5-model een veiligere versie van Mythos is.

Meta en OpenAI hebben ook beiden toegegeven dat AI-modellen erin zijn geslaagd verbinding te maken met het internet en andere diensten te hacken.

Bailey zei dat er sprake was van een “groter aantal kwetsbaarheden”, en de FSB kijkt nu naar manieren om de “veilige uitrol van frontier-modellen” binnen financiële dienstverleners te ondersteunen.

Voorafgaand aan de G20-bijeenkomst in North Carolina zei kanselier John Healey dat hij “good growth” tot zijn hoogste prioriteit zou maken.

Ook wordt verwacht dat hij zal zeggen dat de uitgifte van Britse gilts dit jaar £58bn lager zal zijn dan vorig jaar. Ook zullen gesprekken plaatsvinden over de financiering van een sterke stijging van de defensie-uitgaven.