NieuwsMacroBanken blokkeren AI-agents vanwege bezorgdheid over veiligheid en concurrentie

Banken blokkeren AI-agents vanwege bezorgdheid over veiligheid en concurrentie

Auteur: Cointelegraph·

Belangrijkste punten

  • •HSBC, Barclays, Lloyds, NatWest en Nationwide hebben externe AI-agents geblokkeerd of beperkt in de toegang tot klantrekeningen, uit vrees voor roekeloze agents en onduidelijke aansprakelijkheid rather dan bekende inbreuken.
  • •De beperkingen verschillen van het Britse open banking-stelsel dat sinds 2018 bestaat en klantgeïnitieerde gegevensdeling met geaccrediteerde derde partijen verplicht stelt, niet autonome transacties door agents.
  • •Uit een onderzoek van de Bank of England en de FCA bleek dat, hoewel 80% van de responderende bedrijven AI-agents had ingezet, slechts 2% agents met brede autonomie gebruikte, met zorgen over gegevensbeveiliging, afhankelijkheden van derden en hallucinatierisico's.
  • •Het Amerikaanse Office of the Comptroller of the Currency vaardigde op 4 november een toezichtskader uit over het gebruik van agentische AI-systemen door banken, waarbij risico's worden beoordeeld op autonomieniveau en menselijk toezicht, zonder nieuwe bindende eisen.
  • •Apollo-hoofdeconoom Torsten Slok waarschuwde dat agents die massaal huishoudgeld verplaatsen naar alternatieven met hogere rendementen banken van goedkope financiering kunnen beroven en een probleem voor het hele financiële systeem kunnen creëren.
Banken blokkeren AI-agents vanwege bezorgdheid over veiligheid en concurrentie

Banken in het Verenigd Koninkrijk hebben een grens getrokken ten aanzien van hoeveel toegang kunstmatige intelligentie moet krijgen tot het geld van hun klanten. HSBC, Barclays, Lloyds, NatWest en Nationwide hebben allemaal maatregelen genomen om externe AI-agents — software die met minimale menselijke controle kan handelen — te blokkeren of te beperken in de toegang tot klantrekeningen, vooral wanneer dergelijke systemen transacties kunnen uitvoeren zonder tussenkomst van de klant.

Er is nog geen bewijs dat AI-agents daadwerkelijk toegang hebben gekregen tot Britse bankrekeningen, maar de grote banken in het land maken zich zorgen over wat er gebeurt als een geautomatiseerd systeem het geld van klanten verkeerd beheert — en over wie uiteindelijk aansprakelijk is. De beperkingen, gemeld door The Telegraph, weerspiegelen de vrees voor roekeloze agents.

De beperkingen markeren een grens die verschilt van het Britse open banking-stelsel, dat sinds 2018 van kracht is en waarbij de grootste banken van het land klanten moeten toestaan rekeninggegevens te delen met geaccrediteerde derde partijen — een kader gebouwd rond klantgeïnitieerde toegang en betalingen, niet rond transacties die een agent zelfstandig besluit uit te voeren.

De banken kunnen ook andere, onuitgesproken zorgen hebben — namelijk wat agentische financiën kunnen doen met hun bedrijfsmodellen.

Edgars Nemše, chief executive van GenLayer Foundation, een blockchain-infrastructuurproject gericht op AI, zegt dat routinematige banktaken zoals rekeningen betalen, geld overmaken en betere rentetarieven vinden allemaal aan agents kunnen worden overgedragen. De ongemakkelijke consequentie voor banken is dat agents klanten naadloos een betere deal elders kunnen vinden zodra deze op internet wordt gepubliceerd.

"Voor gewone rekeningen schakelt dat de overstapkosten uit en maakt het de sector nog concurrerender," aldus Nemše tegen Magazine.

Het risico van agentische bankruns

Dat scenario kan meer bedreigen dan alleen klantentrouw. In september waarschuwde Torsten Slok, hoofdeconoom bij Apollo, voor een mogelijke "agentische bankrun".

Als zwermen agents massaal huishoudgeld van laagrentende betaalrekeningen verplaatsen naar alternatieven met hogere rendementen, dan worden banken beroofd van de goedkope financiering waarop ze vertrouwen om leningen te verstrekken — en de snelheid en schaal van zo'n verschuiving "zou een probleem zijn voor het hele financiële systeem."

JPMorgan Chase-topman Jamie Dimon heeft ook gewaarschuwd tegen het geven van onbeperkte toegang tot bankrekeningen aan externe agents. "Je wilt geen roekeloze agents," zei hij tijdens een resultatenbespreking in oktober.

Ongeacht korte-termijnmaatregelen om de tij te keren, lijken AI-agents steeds waarschijnlijker het bankwezen binnen enkele jaren te revolutioneren. Neeraj Makin, groepshoofd strategie-analyse bij Emirates NBD, voorspelt dat agents een nieuw tijdperk inluiden waarin non-stop bankieren en vrijwel directe betalingen tegen 2036 de norm zijn.

"Vergeet het wachten op een betaling van 24 uur of internationale betalingen die drie dagen duren… dat alles zal in seconden gebeuren, atomair," zegt hij, waarbij AI-agents de meeste financiële beslissingen overnemen.

Banken riskeren de dagelijkse klantinterface te verliezen

Ferdinand Dabitz, chief executive van Augustus, een AI-native bank- en betaalbedrijf, ziet een vergelijkbare verschuiving in hoe klanten met financiële instellingen omgaan. "Elke consument krijgt tientallen en elk bedrijf honderden agents die met hun bank praten," zegt Dabitz.

Een menselijke interface blijft belangrijk, zegt hij — voor het beheren van die agents en het bieden van een laag van vertrouwen, "vooral in het zakelijke bankieren."

Het developer experience-team van Emirates NBD betoogde in juli dat financiële instellingen hun eigen kaders voor agentische AI moeten bouwen, in plaats van individuele teams agents te laten ontwikkelen zonder gemeenschappelijke controles. Het Leap-framework is ontworpen om te regelen hoe agents zich authenticeren bij kernbanksystemen, gevoelige gegevens benaderen en acties uitvoeren, met ingebouwde audittrails, monitoring en menselijk toezicht.

Er blijven echter grote zorgen over de betrouwbaarheid van agents die zelfstandig belangrijke financiële beslissingen nemen. Uit een recent onderzoek van de Bank of England en de Financial Conduct Authority (FCA) bleek dat, hoewel 80% van de responderende bedrijven AI-agents had ingezet, slechts 2% agents met brede autonomie gebruikte, waarbij gegevensbeveiliging, afhankelijkheden van derden en risico's zoals hallucinaties als grootste zorgen werden genoemd.

Van rekeningen betalen tot financiële beslissingen

De verschuiving zal waarschijnlijk niet van de ene op de andere dag plaatsvinden — "het komt in stappen," zegt Nemše. "Vandaag gebruik ik een agent om elke maand mijn eigen financiën en die van mijn bedrijf te herzien en betalingen in de wachtrij te zetten, en ik keur ze goed. De volgende stap is de logische: als je het eenmaal vertrouwt, laat je het kleine bedragen uitgeven zonder te vragen."

Routinerekeningen, abonnementen en de eigen bedrijfskosten van de agent behoren tot de eerste taken die autonoom worden, zegt hij.

Dabitz zegt dat schatkistbeheer voor bedrijven een gebied kan zijn dat aan agents wordt gedelegeerd, al moeten banken betrokken zijn bij de ontwikkeling van deze vroege toepassingen.

Wie betaalt als een agent het mis heeft?

Hoewel consumenten kunnen genieten van de voordelen van het automatiseren van hun financiën, blijft de vraag wie aansprakelijk is wanneer een agent een fout maakt open.

Nemše zegt dat banken "gedelegeerde toegang als normale functie" moeten aanbieden om te voorkomen dat klanten inloggegevens met agents delen. Klanten kunnen machtigingen en uitgifteniveaus instellen, en agents kunnen transacties met lage waarde zelfstandig uitvoeren terwijl goedkeuring vereist is voor grotere bedragen.

Bestaande geschillenprocedures kunnen echter moeite krijgen als agents duizenden transacties namens elke klant beginnen uit te voeren. "Zelfs een klein aandeel dat misgaat, is veel geschillen," zegt Nemše. "De processen om die af te handelen zijn gebouwd voor mensen die een paar betalingen per week doen. Dat deel moet nog worden gebouwd."

Toezichthouders werken aan de regels

In de Verenigde Staten heeft het Office of the Comptroller of the Currency (OCC) — de toezichthouder die Amerikaanse nationale banken chartert en superviseert — op 4 november een toezichtskader uitgevaardigd over het gebruik door banken van wat het "superintelligentie" noemt, waaronder agentische systemen.

Het kader is bedoeld om bankexaminatoren te helpen beoordelen hoe instellingen de technologie gebruiken en introduceert geen nieuwe bindende eisen voor banken. De controle moet de mogelijke gevolgen van de acties van een agent, het niveau van autonomie en de mate van menselijk toezicht weerspiegelen.

Een AI-systeem dat een bankmedewerker helpt een rapport op te stellen, vormt bijvoorbeeld een ander risico dan een systeem dat is gemachtigd om klantgeld te verplaatsen zonder goedkeuring — en de banken die die balans goed krijgen, komen waarschijnlijk als winnaars uit de bus.

In het Verenigd Koninkrijk blijven de beperkingen daarentegen zelf opgelegd: de Bank of England en de FCA hebben de AI-adoptie tot nu toe alleen via enquêtes ingeschat in plaats van regels te stellen voor agentische toegang, en of de Britse autoriteiten de OCC volgen met eigen formele richtlijnen, moet nog blijken.