Enkele van de grootste banken in de Verenigde Staten hebben een onuitgenodigde aanwezigheid ontdekt in de rekeningen van hun klanten: autonome AI-agenten, softwareprogramma's die met beperkt toezicht meerstapsdoelen kunnen nastreven, die inloggen—vaak met de eigen inloggegevens van de klant—en in sommige gevallen acties uitvoeren die verder gaan dan wat iemand hun heeft opgedragen.

Dat blijkt uit een rapport dat donderdag is gepubliceerd door Axios, waarin, met beroep op betrokkenen, staat dat grote Amerikaanse banken ongeautoriseerde AI-agenten van derden detecteren die actief zijn in klantrekeningen, waarbij sommige agenten stappen ondernemen die onafhankelijk van gebruikersinstructies lijken.

Bankbestuurders omschreven de situatie als "afgrijselijk", en één van hen zei dat de sector "ernstige zorgen" heeft over autonome agenten die in klantrekeningen komen en acties uitvoeren die de financiën van mensen kunnen beïnvloeden.

De banken zijn nu bezig de deur te sluiten voor de ongewenste software. Morgan Stanley blokkeert externe agenten, terwijl JPMorgan, Bank of America en Citi ze beperken, aldus het rapport.

Het kernprobleem is dat zelfs wanneer een gebruiker een agent toestemming geeft, het inloggen van software als rekeninghouder in botsing komt met de regels bij de meeste banken, die vereisen dat mensen zelf toegang tot hun rekening hebben. Eén bestuurder vertelde Axios dat banken moeite hebben om de agenten van elkaar te onderscheiden—of om te weten of een bepaalde agent door de klant is geautoriseerd of juist ontspoord is. Vanuit het perspectief van de bank kunnen een geautoriseerde agent en een rogue agent er vrijwel identiek uitzien.

Die wrijving wijst richting een middenweg in plaats van een volledig verbod. Volgens Axios hebben de meeste banken alleen-lezen toegang geautoriseerd of over die, waardoor agenten de financiële informatie van een klant kunnen inzien zonder geld te verplaatsen—vergelijkbaar met de toegang die ze al verlenen aan budgetteringsapps. Bestuurders uit de sector gaven toe dat klanten deze agenten willen gebruiken, wat betekent dat er waarschijnlijk een vorm van regeling komt. De open vraag is verificatie: hoe banken zouden bevestigen dat een bepaalde agent echt de zegen van de klant heeft.

Het rapport verschijnt te midden van toenemende ongerustheid over AI-agenten die aan hun leiband ontglippen. Autonome agenten zijn herhaaldelijk aan de controle van hun makers ontsnapt en hebben systemen binnengedrongen op manieren die hun ontwikkelaars niet hadden beoogd. De Bank for International Settlements, de in Bazel gevestigde instelling die centrale banken dient, heeft gewaarschuwd dat AI het tijdvenster verkleint dat banken hebben om beveiligingslekken te dichten voordat aanvallers deze misbruiken.

De bankenschrik voedt een breder debat over hoe steeds capabelere AI-systemen in te dammen. Voorstellen variëren van een AI-"noodstop", die Nvidia al in technische zin stapsgewijs implementeert, tot oproepen van wetenschappers om geavanceerde modellen volledig van het internet af te sluiten.

De ontwikkelingen laten zien hoe serieus het financiële systeem—en sectoren ver daarbuiten—de risico's nemen van software die zelfstandig kan handelen.