BIZ warnt: KI lässt Banken nur noch Minuten, um Schwachstellen zu beheben
Wichtige Erkenntnisse
- •Die BIZ erklärt, dass Frontier-KI Schwachstellen autonom entdecken und ausnutzen kann, wodurch die Reaktionszeit für Banken schrumpft.
- •Die im Papier zitierte britische Leitlinie geht davon aus, dass sich Reparaturfristen von Wochen auf Tage oder sogar Stunden verkürzen könnten.
- •Die BaFin und die Währungsbehörde Hongkongs fordern schnellere Patches sowie bessere Fähigkeiten zur Reaktion auf Sicherheitsverletzungen und zur Wiederherstellung.
- •Europäische Maßnahmen zur Cyber-Resilienz legen den Schwerpunkt darauf, kritische Finanzdienstleistungen auch bei schwerwiegenden operationalen Störungen aufrechtzuerhalten.
- •Das Papier bezeichnet den Vorfall bei Hugging Face als vorläufigen Hinweis auf reale Risiken, betont jedoch, dass er öffentlich verfügbare KI-Tools nicht unmittelbar repräsentiert, da Schutzmaßnahmen gelockert und umfangreiche Rechenressourcen bereitgestellt wurden.
Fortschrittliche künstliche Intelligenz verkürzt laut einem neuen Papier der Bank für Internationalen Zahlungsausgleich (BIZ) die Zeit, die Banken haben, um Software-Schwachstellen zu beheben, bevor Angreifer sie ausnutzen.
Das am Mittwoch veröffentlichte Papier des Financial Stability Institute ergänzt jüngste Warnungen von KI-Entwicklern und Finanzaufsichtsbehörden, wonach leistungsfähigere Modelle Cyberangriffe beschleunigen. Im Mittelpunkt steht die Reaktionsfähigkeit von Banken. Die Autoren argumentieren, dass Institute sowohl Software-Reparaturen als auch die dafür erforderlichen Genehmigungsentscheidungen beschleunigen müssen.
„Die bedeutendste Entwicklung, die durch Frontier-KI hervorgerufen wurde, ist die autonome Entdeckung und Ausnutzung von Schwachstellen“, schrieben die Autoren. Sie warnten, dass regelmäßige Sicherheitsprüfungen und geplante Patches zunehmend nicht ausreichen, weil „sich das Zeitfenster zwischen der Entdeckung einer Schwachstelle und ihrer Ausnutzung von Wochen auf Minuten verkürzt hat“.
Das Papier verweist auf eine Untersuchung der britischen Financial Conduct Authority, der zufolge die Entdeckung von Schwachstellen die Reaktionsfähigkeit der Unternehmen überholt. Außerdem wird auf Leitlinien des Institute of International Finance verwiesen, die Banken zu einer schnelleren Behebung von Schwachstellen auffordern – auch außerhalb geplanter Wartungsfenster – und eine größere Akzeptanz geplanter Ausfallzeiten empfehlen.
Separate freiwillige Leitlinien der britischen Cross Market Operational Resilience Group gehen dem Papier zufolge davon aus, dass sich die Reparaturfristen von Wochen auf Tage und in manchen Fällen auf Stunden verkürzen könnten.
Obwohl die im Bericht beschriebenen Fristen freiwillig sind, drängen Aufsichtsbehörden Banken zu einer schnelleren Reaktion. Deutschlands BaFin hat schnellere Patches gefordert, während die Währungsbehörde Hongkongs auf stärkere Fähigkeiten zur Reaktion auf Sicherheitsverletzungen und zur Wiederherstellung gedrängt hat. Für Banken bedeutet dies, dass das Management von Schwachstellen neben einer umfassenderen Planung der operationalen Resilienz steht – einschließlich der Entscheidungen darüber, wann Systeme für Reparaturen offline genommen werden können und wie kritische Dienste während Störungen aufrechterhalten werden.
„Beispielsweise hat die Hong Kong Monetary Authority Institute dazu ermutigt, KI-gestützte Cyber-Szenarien in Programme zur operationalen Resilienz zu integrieren und die Fähigkeiten zur Reaktion auf Vorfälle und zur Wiederherstellung auszubauen, da sie anerkennt, dass ‚Breach‘-Szenarien wahrscheinlicher werden könnten, während sich die Cyber-Bedrohungslandschaft weiterentwickelt“, heißt es in dem Bericht.
„Ebenso unterstreichen das Programm der [Europäischen Zentralbank] für Stresstests zur Cyber-Resilienz und die Umsetzung des Digital Operational Resilience Act, dass Institute nicht nur Cyberangriffe abwehren, sondern auch während schwerwiegender operationaler Störungen weiterhin kritische Dienstleistungen erbringen können müssen.“
Die Warnung folgt auf einen im August veröffentlichten Aufruf zu stärkeren Cyberabwehrmaßnahmen, der von OpenAI, Anthropic und mehr als 100 weiteren Organisationen unterstützt wurde. Die Unterzeichner empfahlen strengere Zugriffskontrollen, einen intensiveren Austausch von Informationen über Bedrohungen und eine engere Überwachung von KI-Agenten.
Das BIZ-Papier untersucht den Angriff auf Hugging Face unter Einsatz von OpenAI-Modellen als vorläufigen Hinweis darauf, dass in Tests gezeigte Fähigkeiten in Angriffe auf reale Systeme übergehen können. OpenAI beschrieb später, wie seine Agenten während der Operation zusammenarbeiteten.
Die Autoren wiesen darauf hin, dass die üblichen Schutzmaßnahmen gelockert und umfangreiche Rechenressourcen bereitgestellt worden waren. Daher bilde der Vorfall die Risiken öffentlich verfügbarer KI-Tools nicht unmittelbar ab.
„Der OpenAI-Vorfall ist kein Hinweis darauf, dass Frontier-KI-Modelle eigenständig bösartige Ziele entwickeln können. Dennoch könnten sie eine eng definierte Aufgabe mit unbeabsichtigten und schädlichen Folgen verfolgen“, schrieben die Autoren. „Die Bedeutung dieser Entwicklung für die Cyber-Resilienz liegt in der Kombination eines leistungsfähigen Modells mit einem umgebenden Softwaresystem, das es ihm ermöglicht, zu planen, Werkzeuge zu nutzen und autonom zu handeln.“
