Das US-Büro des Comptroller of the Currency (OCC), die Aufsichtsbehörde für national lizenzierte Banken, hat seinen ersten aufsichtsrechtlichen Rahmen für künstliche Intelligenz im Bankwesen veröffentlicht. Prüfer sollen sich weniger darauf konzentrieren, wie leistungsfähig ein KI-System ist, sondern darauf, was passiert, wenn es einen Fehler macht.

Der 22-seitige Rahmen, veröffentlicht als OCC Bulletin 2026-54 und begleitet von einer Pressemitteilung, warnt in einem Abschnitt zur operativen Resilienz, dass externe Agenten, die von Kunden, Fintechs oder anderen Unternehmen betrieben werden, Risiken für Banken schaffen könnten – selbst wenn die Banken diese Systeme nicht kontrollieren. Die Aufsichtsbehörde hat die Veröffentlichung des Rahmens nicht mit konkreten Vorfällen in Verbindung gebracht, wobei er inmitten erhöhter industrieller Besorgnis über nicht genehmigte KI-Agenten in Kundekonten veröffentlicht wurde.

Folgen statt Komplexität

Im Kern des Dokuments steht die Unterscheidung zwischen der technischen Komplexität eines KI-Systems und dem Schaden, den es verursachen könnte. Ein einfacher Agent, der zur Auslösung finanzieller Transaktionen befugt ist, könnte ein höheres Risiko bergen als ein fortgeschritteneres Modell, das auf das Verfassen interner Dokumente beschränkt ist, so die Aufsichtsbehörde. Diese Unterscheidung spiegelt wider, wie sich agentenbasierte Software von herkömmlichen Werkzeugen unterscheidet: Agenten erzeugen nicht nur Text, sondern führen Aktionen in verbundenen Systemen aus, sodass das Schadenspotenzial eines Fehlers mit den Berechtigungen wächst, die sie besitzen.

Im Rahmen des Dokuments können Prüfer die Folgen eines Fehlers, ob eine Aktion rückgängig gemacht werden kann und wie viel Kontrolle Menschen über das System behalten, berücksichtigen. Die Behörde umreißt vier beispielhafte Risikostufen: vollständig autonome Zahlungsagenten und Echtzeit-Kreditentscheidungssysteme fallen in die höchste Kategorie, während grundlegende interne Produktivitätswerkzeuge die niedrigste belegen.

Höher risikoreiche Systeme können strengere Beschränkungen der Autonomie, unabhängige Tests und eine menschliche Freigabe erfordern, bevor konsequenzträchtige Aktionen ausgeführt werden können.

Der Rahmen befasst sich auch mit KI-Systemen, die weiterlaufen, während sie schädliche Entscheidungen treffen. Vorgeschlagene Schutzmaßnahmen umfassen Sicherheitsabschaltungen, Ratenbegrenzungen, eingeschränkte Berechtigungen und Not-Aus-Kontrollen.

KI-Agenten Dritter im Fokus

Der Leitfaden regt an, dass Prüfer Maßnahmen wie Identitätsverifizierung, delegierte Berechtigungen, Transaktionslimits, Überwachung sowie die Möglichkeit, Zugriffe auszusetzen oder zu widerrufen, in Betracht ziehen. Ziel ist es, ein Dilemma zu lösen, dem sich Banken bereits gegenübersehen: wie Kunden KI-Assistenten zur Verwaltung ihrer Finanzen nutzen können, ohne autonomer Software uneingeschränkten Zugang zu Konten zu gewähren.

Der Rahmen erscheint weniger als zwei Wochen nach Berichten, wonach Großbanken unautorisierte KI-Agenten Dritter in Kundekonten entdeckten, die manchmal Aktionen ausführten, die über die Anweisungen der Nutzer hinauszugehen schienen. Laut einem Axios-Bericht vom 22. Oktober blockierte Morgan Stanley externe Agenten, während JPMorgan, Bank of America und Citi die Zugriffe einschränkten. Bankvorstände beschrieben die Situation als „schauderhaft“, was die Frage aufwirft, wer einen autonomen Agenten kontrolliert, sobald er Zugriff auf das Geld einer Person hat.

Diese Überlegungen sind besonders relevant für die externen Agenten aus der früheren Berichterstattung von Axios, bei denen Banken Schwierigkeiten hatten, legitime, von Kunden autorisierte Software von Systemen zu unterscheiden, die über ihre vorgesehenen Berechtigungen hinaus agierten.

Leitfaden, keine neuen Bankregeln

Das OCC betonte, dass der Rahmen unverbindlich ist und keine neuen regulatorischen Anforderungen oder durchsetzbaren Standards für Banken schafft. Stattdessen gibt er Prüfern eine Möglichkeit, KI innerhalb der bestehenden Risikokategorien für Betrieb, Compliance und Cybersicherheit zu bewerten, und Banken müssen keine separate KI-Risikokategorie einrichten. Er liefert Beispiele für Schutzmaßnahmen zu autonomen Zahlungen, Zugriff durch Dritte und menschlicher Aufsicht. Unverbindlich bedeutet nicht folgenlos: OCC-Prüfer bewerten Banken bei der routinemäßigen Aufsicht anhand von Dokumenten wie diesem, sodass die vorgeschlagenen Schutzmaßnahmen praktisches Gewicht erhalten können, ohne formelle Regeln.

Der Rahmen umfasst KI, die in Zahlungen, Betrugserkennung, Kundenservice und anderen Bankoperationen eingesetzt wird, und erstreckt seine Risikobetrachtungen auch auf externe KI-Agenten, die über Bankkanäle eine Verbindung herstellen.

Bemerkenswert ist, dass das Dokument den verpflichtenden Begriff „Super Intelligence“ verwendet – eine Formulierung, auf der die Regierung von Donald Trump anstelle von „artificial intelligence“ besteht, in Übereinstimmung mit einer Präsidialmaßnahme des Weißen Hauses aus dem September –, wobei sein Geltungsbereich konventionelle KI und „autonome Agenten“ umfasst und nicht nur hypothetische Systeme mit Intelligenz jenseits menschlicher Fähigkeiten.

Das OCC kündigte an, den Leitfaden mit der Weiterentwicklung der Technologie zu aktualisieren. Vorerst ordnet die beispielhafte Risikoskala autonome Zahlungsagenten der höchsten Risikokategorie zu – unabhängig davon, wie gut sie bei Tests abschneiden. Wie Prüfer diese Stufen in der Praxis anwenden – insbesondere auf die KI-Agenten Dritter, die Banken in Kundekonten entdeckt haben –, ist das Detail, auf das es zu achten gilt, wenn sich der Leitfaden weiterentwickelt.

Dieser Artikel wurde ursprünglich von Decrypt berichtet.