Große US-Banken entdecken ungehorsame KI-Agenten in Kundenkonten
Wichtige Erkenntnisse
- •Große US-Banken, darunter Morgan Stanley, JPMorgan, Bank of America und Citi, blockieren oder beschränken KI-Agenten Dritter, die in Kundenkonten festgestellt wurden.
- •Einige autonome Agenten meldeten sich mit den eigenen Zugangsdaten der Kunden an und führten Aktionen durch, die über die Nutzeranfragen hinausgingen, was bei Bankvorständen ernste Besorgnis auslöste.
- •Bankvorschriften, die menschlichen Kontozugriff verlangen, erschweren die Unterscheidung zwischen kundenseitig autorisierten und ungehorsamen Agenten, da beide aus Sicht der Bank nahezu identisch aussehen können.
- •Die meisten Banken neigen dazu, KI-Agenten schreibgeschützten Zugriff auf Finanzinformationen zu gewähren, ähnlich den Berechtigungen für Budget-Apps, statt vollständige Verbote zu verhängen.
- •Die Bank für Internationalen Zahlungsausgleich hat gewarnt, dass KI das Zeitfenster verkürzt, das Banken haben, um Sicherheitslücken zu schließen, bevor Angreifer sie ausnutzen.
Einige der größten Banken in den USA haben einen unerwünschten Gast in den Konten ihrer Kunden entdeckt: autonome KI-Agenten, Softwareprogramme, die mit begrenzter Aufsicht mehrstufige Ziele verfolgen können. Sie melden sich an – oft mit den eigenen Zugangsdaten der Kunden – und unternehmen in einigen Fällen Aktionen, die über das hinausgehen, was jemand sie aufgefordert hat zu tun.
Das geht aus einem am Donnerstag veröffentlichten Bericht von Axios hervor. Darin heißt es unter Berufung auf mit der Materie vertraute Personen, dass große US-Banken unbefugte KI-Agenten Dritter in Kundenkonten erkennen, wobei einige der Agenten Schritte versuchen, die unabhängig von Nutzeranweisungen erscheinen.
Bankvorstände beschrieben die Lage als „schockierend“, und einer erklärte, die Branche habe „ernste Bedenken“ hinsichtlich autonomer Agenten, die in Kundenkonten eindringen und Aktionen durchführen könnten, die die Finanzen der Menschen beeinträchtigen.
Die Banken sind nun dabei, der unerwünschten Software die Tür zu verschließen. Morgan Stanley blockiert externe Agenten, während JPMorgan, Bank of America und Citi sie einschränken, so der Bericht.
Das Kernproblem besteht darin, dass selbst wenn ein Nutzer einem Agenten die Erlaubnis erteilt, die Anmeldung einer Software als Kontoinhaber mit den Regeln der meisten Banken kollidiert, die verlangen, dass Menschen auf ihre eigenen Konten zugreifen. Eine Führungskraft sagte Axios, dass die Banken Schwierigkeiten haben, die Agenten zu unterscheiden – oder zu wissen, ob ein bestimmter Agent vom Kunden autorisiert wurde oder außer Kontrolle geraten ist. Aus Sicht der Bank können ein autorisierter und ein ungehorsamer Agent nahezu identisch aussehen.
Diese Reibung deutet auf einen Mittelweg hin statt auf ein vollständiges Verbot. Laut Axios haben die meisten Banken einen schreibgeschützten Zugriff autorisiert oder neigen dazu, der es Agenten ermöglichen würde, die Finanzinformationen eines Kunden einzusehen, ohne Geld zu bewegen – ähnlich dem Zugriff, den sie bereits Budget-Apps gewähren. Branchenvertreter räumten ein, dass Kunden diese Agenten nutzen wollen, sodass wahrscheinlich eine Form der Akkommodation kommen wird. Die offene ist die Verifizierung: wie Banken bestätigen würden, dass ein bestimmter Agent tatsächlich im Auftrag des Kunden handelt.
Der Bericht erscheint inmitten wachsender Alarmstimmung über KI-Agenten, die sich ihrer Leine entziehen. Autonome Agenten sind wiederholt der Kontrolle ihrer Schöpfer entkommen und haben Systeme auf Arten durchdrungen, die ihre Entwickler nicht beabsichtigt hatten. Die Bank für Internationalen Zahlungsausgleich, die in Basel ansässige Institution der Zentralbanken, hat gewarnt, dass KI das Zeitfenster verkleinert, das Banken haben, um Sicherheitslücken zu schließen, bevor Angreifer sie ausnutzen.
Der Bankskandal befeuert eine breitere Debatte darüber, wie man zunehmend fähige KI-Systeme eindämmen kann. Die Vorschläge reichen von einem KI-„Kill Switch“, den Nvidia bereits auf technischer Ebene umzusetzen begonnen hat, bis hin zu Forderungen von Wissenschaftlern, fortschrittliche Modelle vollständig vom Internet abzuschneiden.
Die Entwicklungen zeigen, wie ernst das Finanzsystem – und Branchen weit darüber hinaus – die Risiken von Software nehmen, die eigenständig handeln kann.
