Der Vorsitzende des Financial Stability Board hat die G20-Regulierungsbehörden gewarnt, dass neue Modelle der künstlichen Intelligenz zu einer wachsenden Bedrohung für das globale Finanzsystem werden.

Andrew Bailey, der auch als Gouverneur der Bank of England fungiert, sandte am Montag ein Schreiben an Zentralbankgouverneure und Finanzminister der G20-Staaten. Die Warnung folgt auf eine Reihe jüngster Vorfälle, bei denen neue KI-Modelle von Unternehmen wie OpenAI, Anthropic und Meta genutzt wurden, um über das Internet andere Organisationen zu hacken.

Bailey sagte, das Risiko werde komplexer, da diese Frontier-KI-Modelle mehr Autonomie, stärkere Problemlösungsfähigkeiten und fortgeschrittenere offensive Fähigkeiten aufweisen.

Regulierer fürchten Lücken in der Cybersicherheit

Eine der zentralen Sorgen ist, dass fortgeschrittene KI-Modelle bisher unbekannte Schwachstellen in den Cybersicherheitsverteidigungen von Finanzinstituten aufdecken könnten. Regulierer befürchten zudem, dass KI-Systeme nach der Behebung einer Schwachstelle schnell reagieren und einen Weg daran vorbei finden könnten.

Die Europäische Zentralbank hat bereits Schritte unternommen, um das Problem anzugehen. Sie hat Banken im Euroraum aufgefordert, bis zum 31. Oktober einen formellen Aktionsplan zu den Risiken neuer KI-Modelle vorzulegen.

Die Finanzverantwortlichen der G20 trafen sich am Montag in Asheville, North Carolina. Das Financial Stability Board fungiert als Koordinierungsstelle für Finanzaufsichtsbehörden in allen G20-Staaten, wodurch Baileys Warnung Teil eines breiteren Bemühens wird, die Reaktionen zu harmonisieren, bevor nationale Regeln sich weiter auseinanderentwickeln.

Risiken machen nicht an Grenzen halt

In seinem Schreiben machte Bailey deutlich, dass ein KI-gestützter Cyberangriff auf das Finanzsystem eines Landes leicht über dessen Grenzen hinausgehen könnte. Gemeinsame Technologieanbieter und Finanzinfrastrukturen verbinden Institutionen weltweit, sodass eine Sicherheitsverletzung an einem Ort anderswo Folgewirkungen auslösen kann.

Er warnte zudem, dass Unterschiede in rechtlichen Rahmenwerken und Cyberfähigkeiten zwischen Ländern selbst zu einer Schwachstelle im globalen System werden könnten.

Bailey rief die Regulierer dazu auf, die sichere Einführung neuer KI-Modelle zur obersten Priorität zu machen, und wies darauf hin, dass vielen Ländern noch immer die passenden Regeln fehlen.

“Many jurisdictions do not have the protocols in place to manage the development, release, and deployment of advanced frontier AI models, heightening risks for the financial sector and beyond,” he wrote.

Auch Banken und andere Finanzunternehmen wurden aufgefordert, sich auf Worst-Case-Szenarien vorzubereiten, darunter gleichzeitige Störungen bei mehreren Unternehmen, die dieselbe Technologie nutzen. Bailey sagte, Firmen müssten nach einem schweren Angriff in der Lage sein, Computersysteme von Grund auf neu aufzubauen. Er bezeichnete dies als Wiederherstellung von Systemen aus “bare metal”, also die Fähigkeit, kritische Daten und Abläufe selbst nach einem vollständigen Systemausfall wiederherzustellen.

Die Warnung kommt zu einem Zeitpunkt, an dem sich die KI-Entwicklung im privaten Sektor weiter beschleunigt und neue Modelle in rascher Folge von großen Technologieunternehmen veröffentlicht werden. Die Regulierer arbeiten nun daran, Rahmenwerke zu schaffen, die mit diesem Tempo Schritt halten können.