NachrichtenMakroBanken sperren KI-Agenten aus Sicherheits- und Wettbewerbsgründen aus Kundkonten aus

Banken sperren KI-Agenten aus Sicherheits- und Wettbewerbsgründen aus Kundkonten aus

Autor: Cointelegraph·

Wichtige Erkenntnisse

  • •HSBC, Barclays, Lloyds, NatWest und Nationwide haben Drittanbieter-KI-Agenten vom Zugriff auf Kundenkonten blockiert oder eingeschränkt – aus Angst vor unkontrollierten Agenten und unklarer Haftung, nicht wegen bekannter Sicherheitsvorfälle.
  • •Die Beschränkungen unterscheiden sich vom seit 2018 geltenden britischen Open-Banking-Regime, das die von Kunden initiierte Weitergabe von Daten an akkreditierte Drittanbieter vorschreibt, nicht aber autonome Agenten-Transaktionen.
  • •Eine Umfrage der Bank of England und der FCA ergab, dass zwar 80% der antwortenden Unternehmen KI-Agenten einsetzten, aber nur 2% Agenten mit weitreichender Autonomie nutzten – mit Sorgen hinsichtlich Datensicherheit, Drittanbieter-Abhängigkeiten und Halluzinationsrisiken.
  • •Das US-amerikanische Office of the Comptroller of the Currency veröffentlichte am 4. November einen Aufsichtsrahmen für den Einsatz agentenbasierter KI-Systeme durch Banken, der Risiko nach Autonomiegrad und menschlicher Aufsicht bewertet, ohne neue verbindliche Anforderungen einzuführen.
  • •Apollo-Chefökonom Torsten Slok warnte, dass Agenten, die private Guthaben massenhaft zu renditestärkeren Alternativen verschieben, den Banken kostengünstige Refinanzierung entziehen und ein Problem für das gesamte Finanzsystem schaffen könnten.
Banken sperren KI-Agenten aus Sicherheits- und Wettbewerbsgründen aus Kundkonten aus

Die Banken im Vereinigten Königreich haben eine Grenze gezogen, wie viel Zugriff künstliche Intelligenz auf das Geld ihrer Kunden haben darf. HSBC, Barclays, Lloyds, NatWest und Nationwide haben sämtlich begonnen, Drittanbieter-KI-Agenten – Software, die mit minimaler menschlicher Aufsicht handeln kann – den Zugriff auf Kundenkonten zu blockieren oder einzuschränken, insbesondere dort, wo solche Systeme Transaktionen ohne Beteiligung des Kunden ausführen können.

Es gibt bislang keine Belege dafür, dass KI-Agenten tatsächlich Zugriff auf britische Bankkonten erhalten haben, doch die großen Kreditinstitute des Landes sind besorgt darüber, was passiert, wenn ein automatisiertes System das Geld der Kunden fehlerhaft verwaltet – und wer letztlich dafür haftet. Die Beschränkungen, über die The Telegraph berichtete, spiegeln die Angst vor unkontrollierten Agenten wider.

Die Beschränkungen markieren eine Linie, die sich vom britischen Open-Banking-Regime unterscheidet, das seit 2018 gilt und wonach die größten Banken des Landes Kunden gestatten müssen, Kontodaten mit akkreditierten Drittanbietern zu teilen – ein Rahmenwerk, das auf von Kunden initiiertem Zugriff und Zahlungen basiert, nicht auf Transaktionen, die ein Agent eigenständig beschließt.

Die Banken könnten zudem weitere, unausgesprochene Sorgen haben – nämlich was agentenbasierte Finanzen für ihre Geschäftsmodelle bedeuten könnte.

Edgars Nemše, Chief Executive der GenLayer Foundation, eines KI-fokussierten Blockchain-Infrastrukturprojekts, sagt, dass routinemäßige Bankaufgaben wie Rechnungszahlungen, Geldtransfers und die Suche nach besseren Konditionen vollständig an Agenten übergeben werden könnten. Der unbequeme Nebeneffekt für die Banken: Agenten könnten Kunden nahtlos ein besseres Angebot elsewhere finden, sobald es im Netz veröffentlicht wird.

"Bei einfachen Konten beseitigt das die Wechselkosten und macht den Markt noch wettbewerbsintensiver", sagte Nemše gegenüber Magazine.

Die Gefahr agentenbasierter Bank Runs

Dieses Szenario könnte mehr bedrohen als nur die Kundentreue. Im September warnte Torsten Slok, Chefökonom bei Apollo, vor einem möglichen "agentic bank run".

Wenn Schwärme von Agenten beginnen, private Guthaben massenhaft von verzinsarmen Girokonten zu Alternativen mit höheren Renditen zu verschieben, würden die Banken die kostengünstige Refinanzierung verlieren, auf die sie für Kredite angewiesen sind – und Geschwindigkeit und Umfang einer solchen Verschiebung "wären ein Problem für das gesamte Finanzsystem."

Auch Jamie Dimon, Chief Executive von JPMorgan Chase, warnte davor, externen Agenten uneingeschränkten Zugriff auf Bankkonten zu gewähren. "Man will keine unkontrollierten Agenten", sagte er in einem Bilanzgespräch im Oktober.

Ungeachtet kurzfristiger Versuche, diese Entwicklung aufzuhalten, ist es zunehmend wahrscheinlich, dass KI-Agenten das Bankwesen innerhalb weniger Jahre revolutionieren. Neeraj Makin, Group Head of Strategy Analytics bei Emirates NBD, prognostiziert, dass Agenten bis 2036 eine neue Ära einläuten werden, in der Bankleistungen rund um die Uhr und nahezu sofortige Zahlungen zum Normalfall werden.

"Vergessen Sie, 24 Stunden auf eine Zahlung zu warten oder dass grenzüberschreitende Zahlungen drei Tage dauern … all das wird in Sekunden geschehen, atomar", sagt er, wobei KI-Agenten die meisten Finanzentscheidungen übernehmen.

Banken riskieren die alltägliche Kundenschnittstelle zu verlieren

Ferdinand Dabitz, Chief Executive von Augustus, einem KI-nativen Bank- und Zahlungsunternehmen, sieht eine ähnliche Verschiebung in der Art, wie Kunden mit Finanzinstituten interagieren. "Jeder Privatkunde wird Dutzende und jedes Unternehmen Hunderte von Agenten haben, die mit ihrer Bank sprechen", sagt Dabitz.

Eine menschliche Schnittstelle werde weiterhin wichtig bleiben – zur Verwaltung dieser Agenten und zur Bereitstellung einer Ebene des Vertrauens, "besonders im kommerziellen Bankgeschäft", sagt er.

Das Developer-Experience-Team von Emirates NBD argumentierte im Juli, dass Finanzinstitute eigene Rahmenwerke für agentenbasierte KI schaffen sollten, statt einzelne Teams Agenten ohne gemeinsame Kontrollen entwickeln zu lassen. Das Leap-Framework des Instituts soll regeln, wie Agenten sich bei Kernbanksystemen authentifizieren, auf sensible Daten zugreifen und Aktionen ausführen – mit Audit-Trails, Monitoring und menschlicher Aufsicht.

Dennoch bestehen große Bedenken hinsichtlich der Zuverlässigkeit von Agenten, die eigenständig bedeutende Finanzentscheidungen treffen. Eine aktuelle Umfrage der Bank of England und der Financial Conduct Authority (FCA) ergab, dass zwar 80% der antwortenden Unternehmen KI-Agenten eingesetzt hatten, aber nur 2% Agenten mit weitreichender Autonomie nutzten – wobei Datensicherheit, Drittanbieter-Abhängigkeiten und Risiken wie Halluzinationen zu den größten Sorgen zählten.

Von der Rechnungszahlung zu Finanzentscheidungen

Die Verschiebung wird kaum über Nacht geschehen – "sie kommt in Schritten", sagt Nemše. "Heute nutze ich einen Agenten, um monatlich meine eigenen Finanzen und die meines Unternehmens zu prüfen und Zahlungen vorzubereiten, die ich dann freigebe. Der nächste Schritt ist der naheliegende: Sobald man ihm vertraut, lässt man ihn kleine Beträge ohne Nachfrage ausgeben."

Regelmäßige Rechnungen, Abonnements und die eigenen laufenden Kosten des Agenten gehörten zu den ersten Aufgaben, die autonom erledigt würden, sagt er.

Dabitz zufolge könnte das Treasury-Management von Unternehmen ein Bereich sein, der an Agenten delegiert wird, wobei Banken in die Entwicklung dieser frühen Anwendungen eingebunden sein müssten.

Wer haftet, wenn ein Agent Fehler macht?

Während Verbraucher die Vorteile automatisierter Finanzen genießen können, bleibt die Frage offen, wer haftet, wenn ein Agent einen Fehler macht.

Nemše sagt, Banken müssten "delegierten Zugriff als Standardfunktion" anbieten, damit Kunden keine Zugangsdaten mit Agenten teilen. Kunden könnten Berechtigungen und Ausgabenlimits festlegen, und Agenten könnten Transaktionen mit geringem Wert eigenständig ausführen, während für größere Beträge eine Freigabe erforderlich wäre.

Bestehende Streitfallprozesse könnten jedoch an ihre Grenzen geraten, wenn Agenten beginnen, tausende Transaktionen pro Kunden auszuführen. "Schon ein kleiner Anteil fehlerhafter Vorgänge bedeutet viele Streitfälle", sagt Nemše. "Die Prozesse zu deren Bearbeitung wurden für Menschen entwickelt, die einige Zahlungen pro Woche tätigen. Dieser Teil muss noch aufgebaut werden."

Aufsichtsbehörden definieren die Regeln

In den Vereinigten Staaten hat das Office of the Comptroller of the Currency (OCC) – die Aufsichtsbehörde, die US-amerikanische Nationalbanken lizenziert und beaufsichtigt – am 4. November einen Aufsichtsrahmen für die Nutzung dessen veröffentlicht, was die Behörde "super intelligence" nennt, einschließlich agentenbasierter Systeme.

Der Rahmen soll Bankprüfern helfen zu beurteilen, wie Institute die Technologie einsetzen, und führt keine neuen verbindlichen Anforderungen für Banken ein. Die Prüftiefe sollte die möglichen Folgen der Handlungen eines Agenten, sein Autonomiegrad und das Ausmaß menschlicher Aufsicht widerspiegeln.

Ein KI-System, das einem Bankmitarbeiter beim Erstellen eines Berichts hilft, stellt beispielsweise ein anderes Risiko dar als eines, das ohne Freigabe Kundenmittel bewegen darf – und die Banken, die diese Balance richtig treffen, dürften am Ende die Nase vorn haben.

Im Vereinigten Königreich hingegen bleiben die Beschränkungen selbst auferlegt: Die Bank of England und die FCA haben den KI-Einsatz bislang lediglich durch Umfragen erfasst, statt Regeln für agentenbasierten Zugriff festzulegen, und ob die britischen Behörden der OCC mit eigenen formellen Leitlinien folgen, bleibt abzuwarten.