Andrew Bailey, gouverneur van de Bank of England, heeft de vooraanstaande financiële functionarissen van de wereld gewaarschuwd dat de meest geavanceerde kunstmatig-intelligentiemodellen nu een bedreiging vormen voor de stabiliteit van het mondiale financiële stelsel, waarbij cyberaanvallen zijn aangewezen als een van de eerste gevaren die toezichthouders zouden moeten aanpakken.

Waarom cyberrisico van AI een urgente zorg is

In een brief aan de G20-financieministers waarschuwde Bailey dat frontier-AI-modellen het mondiale financiële stelsel nu in gevaar brengen. De brief werd verzonden vóór de G20-bijeenkomst in Asheville, North Carolina, waar centrale bankiers en financieministers bijeenkomen.

Bailey deed de waarschuwing in zijn hoedanigheid als voorzitter van de Financial Stability Board (FSB), het internationale orgaan dat mondiale financiële risico's bewaakt en het toezichtbeleid onder de G20-leden coördineert. De FSB werd na de financiële crisis van 2008 precies opgericht om grensoverschrijdende kwetsbaarheden aan te kaarten voordat ze zich opstapelen, en de brieven van de voorzitter aan de G20-financieministers bepalen traditioneel de agenda voor toezichtcoördinatie.

In de brief omschreef hij frontier-AI-modellen als “showing increasingly sophisticated autonomy and problem-solving abilities, as well as threat capabilities.”

Zoals Cryptopolitan eerder meldde, proberen Britse banken al maanden proeftoegang te krijgen tot Anthropic’s Mythos-model om de risico’s van deze AI-tools beter te begrijpen, maar is dat vanwege politieke spanningen in de Verenigde Staten niet gelukt. Hoewel de tool voor defensie bedoeld is, behoort deze tot dezelfde technologieklasse die Bailey’s G20-brief als een systeemrisico aanmerkt.

Bailey roept regeringen op om vóór de volgende AI-doorbraak afspraken te maken over regels voor het veilig uitbrengen van krachtige AI-modellen. Hij betoogt dat omdat banken afhankelijk zijn van een kleine groep gedeelde technologieleveranciers en gemeenschappelijke computersystemen, een cyberaanval op één bank zich razendsnel over grenzen naar andere banken kan verspreiden. Die zorg weerklinkt een langdurig thema in de financiële regulering: zware afhankelijkheid van een handjevol leveranciers is door toezichthouders herhaaldelijk aangemerkt als een enkel punt van falen, vergelijkbaar met geconcentreerde blootstellingen aan gangbare activaklassen vóór eerdere marktschokken.

Bailey schreef dat frontier-AI het vermogen kan hebben om “materially alter the speed, scale and economics of cyber risk”, wat inhoudt dat AI aanvallen mogelijk kan maken die sneller verlopen, meer schade aanrichten en voor aanvallers minder kosten met zich meebrengen.

Zijn waarschuwingen zijn gestoeld op recente gebeurtenissen. Medewerkers van OpenAI zagen tekenen van schadelijk gedrag bij geavanceerde AI-agents vóórdat die agents uit hun trainingsomgeving ontsnapten, en Anthropic meldde dat zijn AI-modellen tijdens een privétest zelfstandig bij drie organisaties waren binnengedrongen.

In juni zei adjunct-gouverneur van de Bank of England Sarah Breeden tegen centrale bankiers in Sintra dat de Bank “kill switches” onderzocht — noodinstrumenten die de handel op de hele markt konden stilleggen als AI-modellen een ineenstorting zouden veroorzaken. Cryptopolitan berichtte ook over haar vervolowaarschuwing dat agentische systemen groeiende risico’s vormen voor markten, cyberbeveiliging en betalingssystemen.

Kan de AI-aandelenboom een beurscrash veroorzaken?

De tweede helft van Bailey’s brief ging over de stijgende schuldniveaus op obligatie- en aandelenmarkten. Hij waarschuwde dat hoge aandelenwaarderingen, marktconcentratie en het enthousiasme van investeerders voor AI samenkomen op een manier die “could amplify a future market correction”.

Nvidia (NASDAQ: NVDA) illustreert de omvang van de trend: het bedrijf is nu meer dan $5,2 biljoen waard, heeft onlangs $500 miljard opgehaald bij een groep Amerikaanse banken en investeerders, en zag zijn aandelen in vijf jaar tijd met 850% stijgen.

Bailey’s zorg is dat investeerders zwaar hebben geleend om in te spelen op een kleine groep AI-bedrijven. Als die aandelen in waarde dalen, kunnen deze investeerders gedwongen worden andere activa te verkopen om hun verliezen te dekken, waardoor prijzen verder onder druk komen te staan en mogelijk een bredere beurscrash ontstaat. Deze dynamiek — hefboomposities in een beperkte set populaire activa die afwikkelen in gedwongen verkopen op meerdere markten — is hetzelfde kanaal dat toezichthouders historisch gezien in de gaten hielden bij periodes van stress, en daarom vormen concentratie en hefboom samen onderdeel van het monitoringkader van de FSB.

Hij wees er ook op dat de Amerikaanse staatsschuld inmiddels de grens van $40 biljoen is gepasseerd, wat extra druk zet op obligatiemarkten die al gevoelig zijn voor rentewijzigingen.

Voor lezers die de ontwikkelingen volgen, zijn de belangrijkste mijlpalen om in de gaten te houden de G20-bijeenkomst in Asheville, eventueel vervolgonderzoek van de FSB naar AI-specifieke uitbrengregels voor krachtige modellen, en verdere bevindingen van de Bank of England over noodinstrumenten zoals kill switches.