JPMorgan Chase zet een harde grens voor AI-agents die toegang zoeken tot klantaccounts, precies op het moment dat Big Tech in een race digitale assistenten uitrol die mensen moeten helpen hun financiën te beheren.

Op dinsdag zei CEO Jamie Dimon dat de bank externe AI-agents blokkeert om in te loggen op klantaccounts of erop te handelen, vanwege de veiligheidsrisico's die "rogue agents" met zich meebrengen.

"We gaan niet zomaar elke externe agent ons bedrijf binnenlaten, want dat is gewoon te riskant voor klanten en voor JPMorgan", zei Dimon tijdens de telefoconferentie over de cijfers van het derde kwartaal. "Je wilt geen rogue agents."

Dimon waarschuwde dat AI-tools nieuwe risico's creëren voor banken en hun klanten, vooral nu steeds meer mensen een beroep doen op agents die taken namens hen kunnen uitvoeren.

"Het beschermen van onze klanten staat bij ons bovenaan", liet een woordvoerder van JPMorgan weten aan Fortune. "Wanneer we een externe agent detecteren die probeert accounts te benaderen door bankgegevens van klanten te verkrijgen, staan wij dat niet toe. Wij ondersteunen veilige, door de klant geautoriseerde gegevensdeling via open banking-aanbieders."

Open banking verwijst naar kaders waarmee klanten derden kunnen machtigen om via goedgekeurde verbindingen toegang te krijgen tot hun accountgegevens, in plaats van inloggegevens rechtstreeks aan externe software te verstrekken.

Rogue AI vormt bron van veiligheidszorgen

Het standpunt van de bank volgt op een reeks veiligheidsincidenten met "rogue" AI-agents. De belangen zijn aanzienlijk gezien de omvang van JPMorgan: volgens de kwartaalcijfers die bij de SEC zijn ingediend, rapporteerde de bank 15,3 miljard dollar aan netto-inkomsten, met 1,6 biljoen dollar aan gemiddelde leningen en 1,5 biljoen dollar aan contant geld en verkoopbare effecten. De totale activa bedroegen 5,1 biljoen dollar per 30 september. Die schaal maakt de toegangsregels van de bank van betekenis voor elke maker van agents waarvan de functies afhankelijk zijn van koppelingen met klantaccounts.

"We moeten ervoor zorgen dat we onze klanten op de juiste manier beschermen", zei Dimon. "Daarom bouwen we ook zelf tools om dat te doen."

Vorige maand concludeerde een onderzoeksnote van de Cloud Security Alliance dat de risico's van AI-agents veel verder reiken dan gecontroleerde testomgevingen. De note beschreef een cybercampagne waarbij drie open-source AI-agents naar verluidt samenwerkten om ten minste 27 organisaties binnen te dringen, waarbij meer dan 600.000 creditcardgegevens van twee van hen werden gestolen.

"Bedrijven zouden aanvalsscenario's met agentic AI specifiek moeten opnemen in hun threatmodellen voor retail- en betalingsinfrastructuur", aldus de note, "in plaats van agentic AI-risico's als een generieke of toekomstgerichte zorg te behandelen, aangezien deze campagne aantoont dat de mogelijkheid al gemeengoed is en actief wordt gebruikt tegen de retailsector."

AI-agents die de financiën van gebruikers beheren zijn overigens niet nieuw. In augustus opende de Duitse bank Scalable Capital haar platform voor AI-modellen zoals ChatGPT, Claude en Grok, waarmee gebruikers portfolio's konden analyseren, spaarplannen konden opzetten en trades konden plaatsen via prompts. Gebruikers moesten elke trade goedkeuren, en de assistenten konden geen betalingen doen of geld opnemen.

"Het creëert zeker een gelijk speelveld", zei Scalable Capital's chief product officer Alexander Seipp eerder tegen Fortune over het gebruik van AI op het beleggingsplatform. "Toegang tot informatie, rekenkracht en intelligentie is nu werkelijk letterlijk in je zak beschikbaar, 24/7."

Die waarborgen—expliciete goedkeuring per trade, geen betalingen of opnames—staan in contrast met de toegang op basis van inloggegevens door externe agents die JPMorgan zegt te blokkeren.

De financiële functies van Muse

De zet van JPMorgan bemoeilijkt de marktstrategie voor AI-agents die zijn gebouwd om te helpen met persoonlijke financiën. Meta lanceerde Muse in september en positioneerde het als een agent die taken kan uitvoeren zoals e-mails versturen, reizen boeken en agenda-items vastleggen. De financiële mogelijkheden waren een speerpunt van de lancering: via een integratie met fintechbedrijf Plaid kunnen Muse-gebruikers financiële accounts koppelen om persoonlijke inzichten te krijgen over saldi, transacties en beleggingsposities.

"Via de Finances-ervaring in Muse kunnen mensen veil financiële accounts koppelen via Plaid om saldi, transacties, beleggingsposities, hypotheekgegevens en meer te delen", aldus een persbericht van Plaid. "Het doel is om financieel beheer minder te laten aanvoelen als het navigeren door een reeks losse apps en meer als een natuurlijk gesprek dat begint bij de prioriteiten van een persoon en wordt gevoed door de financiële informatie die die persoon kiest te delen."

Meta wilde niet ingaan op de vraag of Muse nog steeds financiële hulp kan bieden als meer banken overgaan tot het weren van AI-agents van consumentenaccounts. Het bedrijf liet aan Fortune weten in plaats daarvan "Poppy" te ontwikkelen, een protocolstandaard voor persoonlijke agents die bedrijven duidelijk moet maken wanneer een persoonlijke AI-agent namens een klant handelt. Meta bouwt de standaard samen met Sierra, een bedrijf in AI-klantenservice.

"Personal Agent Protocol is aanvullend", aldus een persbericht van Sierra, "en omvat hoe een persoonlijke agent zich identificeert, toestemming van de klant verkrijgt en met een bedrijf samenwerkt bij elk soort taak—van het kopen van een trui tot het aanvragen van een hypotheek."

Of standaarden zoals Poppy acceptatie vinden bij banken zoals JPMorgan, en of kanalen voor door de klant geautoriseerde gegevensdeling de financieringsfuncties kunnen ondersteunen die makers van agents bouwen, blijven open vragen die centraal staan in deze kloof.

Dit verhaal verscheen oorspronkelijk op Fortune.com.