JPMorgan Chase zieht eine harte Grenze gegenüber KI-Agenten, die auf Kundenkonten zugreifen – gerade zu dem Zeitpunkt, zu dem Big Tech damit beginnt, digitale Assistenten herauszubringen, die Menschen bei der Verwaltung ihrer Finanzen helfen sollen.

Am Dienstag erklärte CEO Jamie Dimon, die Bank blockiere externe KI-Agenten daran, sich bei Kundenkonten anzumelden oder auf diesen zu agieren, und verwies dabei auf die Sicherheitsrisiken durch „rogue agents“.

„Wir werden nicht einfach jeden externen Agenten in das Unternehmen hineinlassen, weil das für die Kunden und für JPMorgan einfach zu riskant ist“, sagte Dimon während der Telefonkonferenz zum dritten Quartal der Bank. „Rogue Agents will man nicht.“

Dimon warnte, dass KI-Tools neue Risiken für Banken und ihre Kunden schaffen, insbesondere da immer mehr Menschen auf Agenten zurückgreifen, die Aufgaben in ihrem Namen erledigen können.

„Der Schutz unserer Kunden hat für uns oberste Priorität“, teilte ein JPMorgan-Sprecher gegenüber Fortune mit. „Wenn wir erkennen, dass ein Agent eines Drittanbieters versucht, durch den Erhalt von Bankzugangsdaten der Kunden auf Konten zuzugreifen, lassen wir das nicht zu. Wir unterstützen sichere, vom Kunden autorisierte Datenübertragung über Open-Banking-Anbieter.“

Open Banking bezeichnet Frameworks, die es Kunden ermöglichen, Dritten über zugelassene Verbindungen den Zugriff auf ihre Kontodaten zu autorisieren, statt Anmeldedaten direkt an externe Software weiterzugeben.

Rogue-KI prägt Sicherheitsbedenken

Die Haltung der Bank folgt auf eine Reihe von Sicherheitsvorfällen mit „rogue“-KI-Agenten. Angesichts der Größe von JPMorgan sind die Einsätze erheblich: Laut dem beim SEC eingereichten Quartalsbericht wies die Bank einen Nettogewinn von 15,3 Milliarden US-Dollar aus – bei durchschnittlichen Krediten von 1,6 Billionen US-Dollar sowie 1,5 Billionen US-Dollar in bar und marktgängigen Wertpapieren. Die Gesamtaktiva beliefen sich zum 30. September 5,1 Billionen US-Dollar. Diese Größenordnung macht die Zugangsregeln der Bank für jeden Agenten-Anbieter bedeutsam, dessen Funktionen von der Verbindung mit Kundenkonten abhängen.

„Wir müssen sicherstellen, dass wir unsere Kunden auf die richtige Weise schützen“, sagte Dimon. „Deshalb bauen wir auch Werkzeuge, um das zu tun.“

Eine Forschungsnotiz der Cloud Security Alliance kam letzten Monat zu dem Ergebnis, dass die Risiken von KI-Agenten weit über kontrollierte Testumgebungen hinausreichen. Die Notiz beschrieb eine Cyberkriminalitätskampagne, bei der drei Open-Source-KI-Agenten angeblich zusammenarbeiteten, um mindestens 27 Organisationen zu kompromittieren und von zwei davon mehr als 600.000 Kreditkartendatensätze zu stehlen.

„Unternehmen sollten agentenbasierte KI-Angriffsszenarien ausdrücklich in ihre Bedrohungsmodelle für Handels- und Zahlungsinfrastruktur aufnehmen“, hieß es in der Notiz, „statt agentenbasierte KI-Risiken als generisches oder zukunftsgerichtetes Problem zu betrachten, zumal diese Kampagne zeigt, dass diese Fähigkeit bereits zur Ware geworden ist und aktiv gegen den Einzelhandel eingesetzt wird.“

KI-Agenten, die die Finanzen von Nutzern verwalten, sind jedoch nichts Neues. Im August öffnete die deutsche Bank Scalable Capital ihre Plattform für KI-Modelle wie ChatGPT, Claude und Grok, sodass Nutzer Portfolios analysieren, Sparpläne einrichten und über Eingabeaufforderungen Trades platzieren konnten. Nutzer mussten jeden Trade genehmigen, und die Assistenten konnten keine Zahlungen leisten oder Geld abheben.

„Das schafft sicherlich eine ebene Spielfeld“, sagte Scalable Capitals Chief Product Officer Alexander Seipp zuvor gegenüber Fortune über den Einsatz von KI auf seiner Investmentplattform. „Der Zugang zu Informationen, zu Rechenleistung und zu Intelligenz ist jetzt wirklich buchstäblich in Ihrer Tasche verfügbar, rund um die Uhr.“

Diese Schutzmaßnahmen – ausdrückliche Genehmigung für jeden Trade, keine Zahlungen oder Abhebungen – stehen im Kontrast zum zugangsbasierten Zugriff externer Agenten, den JPMorgan laut eigener Aussage blockiert.

Muses Finanzfunktionen

Der Schritt von JPMorgan erschwert die Marktstrategie für KI-Agenten, die bei persönlichen Finanzen helfen sollen. Meta brachte Muse im September auf den Markt und positionierte ihn als Agenten, der Aufgaben wie das Versenden von E-Mails, das Buchen von Reisen und das Eintragen von Terminen übernehmen kann. Seine Finanzfunktionen waren ein Schwerpunkt der Einführung: Durch eine Integration mit dem FinTech-Unternehmen Plaid können Muse-Nutzer Finanzkonten verbinden, um personalisierte Hinweise zu Guthaben, Transaktionen und Investitionsbeständen zu erhalten.

„Über die Finanz-Erfahrung in Muse können Menschen Finanzkonten sicher über Plaid verbinden, um Guthaben, Transaktionen, Investitionsbestände, Hypothekeninformationen und mehr zu teilen“, hieß es in einer Pressemitteilung von Plaid. „Das Ziel ist, dass sich Finanzwaltung weniger anfühlt wie das Navigieren durch eine Reihe unverbundener Apps und mehr wie ein natürliches Gespräch, das bei den Prioritäten einer Person beginnt und von den Finanzinformationen geprägt ist, die sie zu teilen wählt.“

Meta lehnte eine Stellungnahme dazu ab, ob Muse weiterhin finanzielle Unterstützung anbieten könnte, sollten mehr Banken daran gehen, KI-Agenten von Verbraucherkonten fernzuhalten. Stattdessen teilte das Unternehmen Fortune mit, dass es „Poppy“ entwickle, einen Protokollstandard für persönliche Agenten, der Unternehmen deutlich machen soll, wann ein persönlicher KI-Agent im Auftrag eines Kunden handelt. Meta baut den Standard gemeinsam mit Sierra, einem Anbieter von KI-Kundenservice, auf.

„Das Personal Agent Protocol ist ergänzend“, hieß es in einer Pressemitteilung von Sierra, „es umfasst, wie sich ein persönlicher Agent identifiziert, die Zustimmung des Kunden einholt und mit einem Unternehmen bei jeder Art von Aufgabe zusammenarbeitet – vom Kauf eines Pullovers bis zur Beantragung einer Hypothek.“

Ob Standards wie Poppy bei Banken wie JPMorgan Akzeptanz finden und ob vom Kunden autorisierte Datenübertragungskanäle die Finanzfunktionen tragen können, die Agenten-Anbieter entwickeln, bleiben offene Fragen im Zentrum dieser Spaltung.

Diese Geschichte erschien ursprünglich auf Fortune.com.