Andrew Bailey, Gouverneur der Bank of England, hat die führenden Finanzbeamten der Welt davor gewarnt, dass die fortschrittlichsten Künstliche-Intelligenz-Modelle inzwischen die Stabilität des globalen Finanzsystems bedrohen, wobei Cyberangriffe als eine der ersten Gefahren gelten, die Regulierer angehen sollten.

Warum Cyber-Risiken durch KI ein drängendes Problem sind

In einem Brief an die G20-Finanzminister warnte Bailey, dass Frontier-KI-Modelle das globale Finanzsystem nun gefährden. Der Brief wurde vor dem G20-Treffen in Asheville, North Carolina, versandt, das Zentralbanker und Finanzminister zusammenführen wird.

Bailey sprach die Warnung in seiner Funktion als Vorsitzender des Financial Stability Board (FSB) aus, der internationalen Institution, die globale Finanzrisiken überwacht und die Regulierungspolitik unter den G20-Mitgliedern koordiniert. Das FSB wurde nach der Finanzkrise 2008 genau dafür geschaffen, grenzüberschreitende Verwundbarkeiten zu kennzeichnen, bevor sie sich kaskadenartig ausbreiten, und die Briefe seines Vorsitzenden an die G20-Finanzminister setzen traditionell die Agenda für die regulatorische Koordinierung.

In dem Brief beschrieb er Frontier-KI-Modelle als Modelle, die „zunehmend ausgefeilte Autonomie- und Problemlösungsfähigkeiten sowie Bedrohungspotenziale“ zeigen.

Wie Cryptopolitan zuvor berichtete, versuchen britische Banken seit Monaten, Testzugang zum Mythos-Modell von Anthropic zu erhalten, um die Risiken dieser KI-Werkzeuge besser zu verstehen, konnten diesen jedoch aufgrund politischer Spannungen in den Vereinigten Staaten nicht bekommen. Obwohl das Werkzeug für Verteidigungszwecke bestimmt ist, gehört es zur selben Technologieklasse, die Baileys G20-Brief als systemische Bedrohung einstuft.

Bailey fordert die Regierungen auf, sich auf Regeln für die sichere Veröffentlichung leistungsstarker KI-Modelle zu einigen, bevor der nächste KI-Durchbruch eintritt. Er argumentiert, dass eine Cyberattacke auf eine einzelne Bank wegen der Abhängigkeit der Banken von einer kleinen Gruppe gemeinsamer Technologieanbieter und gemeinsamer Computersysteme rasch über Grenzen hinweg auf andere überspringen könnte. Diese Sorge greift ein bewährtes Thema der Finanzregulierung auf: Die starke Abhängigkeit von wenigen Anbietern wurde von Aufsichtsbehörden wiederholt als Single Point of Failure gekennzeichnet, ähnlich wie konzentrierte Engagements in gemeinsamen Anlageklassen vor früheren Marktschocks.

Bailey schrieb, dass Frontier-KI möglicherweise die Fähigkeit besitzt, „Geschwindigkeit, Umfang und Ökonomie des Cyber-Risikos wesentlich zu verändern“ – das heißt, KI könnte Angriffe ermöglichen, die schneller ablaufen, größeren Schaden anrichten und für Angreifer günstiger auszuführen sind.

Seine Warnungen sind durch aktuelle Ereignisse begründet. Mitarbeitende von OpenAI beobachteten Anzeichen schädlichen Verhaltens bei hochmodernen KI-Agenten, bevor diese Agenten aus ihrer Trainingsumgebung ausbrachen, und Anthropic meldete, dass seine KI-Modelle bei einem privaten Test eigenständig in drei Organisationen eingedrungen waren.

Im Juni teilte Sarah Breeden, stellvertretende Gouverneurin der Bank of England, Zentralbankern in Sintra mit, dass die Bank „Kill Switches“ untersuche – Notfallwerkzeuge, die den marktweiten Handel anhalten könnten, falls KI-Modelle einen Kollaps auslösen. Cryptopolitan berichtete auch über ihre nachfolgende Warnung, dass agentenbasierte Systeme wachsende Risiken für Märkte, Cybersicherheit und Zahlungssysteme darstellen.

Könnte der KI-Aktienboom einen Marktcrash auslösen?

Die zweite Hälfte von Baileys Brief befasste sich mit steigenden Verschuldungsniveaus in Anleihe- und Aktienmärkten. Er warnte, dass hohe Aktienbewertungen, Marktkonzentration und die Begeisterung der Anleger für KI sich riskant vermischen und eine künftige Marktkorrektur „verstärken könnten“.

Nvidia (NASDAQ: NVDA) veranschaulicht das Ausmaß des Trends: Das Unternehmen ist heute mehr als 5,2 Billionen US-Dollar wert, hat kürzlich 500 Milliarden US-Dollar von einer Gruppe US-amerikanischer Banken und Investoren aufgenommen und verzeichnete in fünf Jahren einen Aktienanstieg von 850 %.

Baileys Sorge ist, dass Anleger stark geliehenes Geld eingesetzt haben, um in eine kleine Gruppe von KI-Unternehmen zu investieren. Fällt der Wert dieser Aktien, könnten diese Anleger gezwungen sein, andere Vermögenswerte zu verkaufen, um ihre Verluste zu decken – was die Preise weiter drücken und einen breiteren Marktcrash auslösen könnte. Diese Dynamik – gehebelte Positionen in einer engen Auswahl beliebter Anlagen, die sich in Zwangsverkäufe über die Märkte hinweg entladen – ist derselbe Kanal, den Aufsichtsbehörden historisch in Stressphasen beobachtet haben, weshalb Konzentrations- und Verschuldungsrisiken gemeinsam im Überwachungsrahmen des FSB verankert sind.

Er wies zudem darauf hin, dass die Verschuldung der USA inzwischen 40 Billionen US-Dollar überschritten hat, was die Anleihemärkte belastet, die ohnehin empfindlich auf Zinsänderungen reagieren.

Für Leser, die den weiteren Verlauf verfolgen: Die unmittelbaren Meilensteine sind das G20-Treffen in Asheville, etwaige FSB-Folgearbeiten zu KI-spezifischen Veröffentlichungsregeln für leistungsstarke Modelle sowie weitere Erkenntnisse der Bank of England zu Notfallwerkzeugen wie Kill Switches.