Alcune delle maggiori banche degli Stati Uniti hanno scoperto una presenza non invitata all'interno dei conti dei propri clienti: agenti AI autonomi, programmi software in grado di perseguire obiettivi articolati con supervisione limitata, che accedono ai conti—spesso con le credenziali degli stessi clienti—e, in alcuni casi, compiono azioni che sembrano andare oltre quanto richiesto da chiunque.

È quanto emerge da un rapporto pubblicato giovedì da Axios, che, citando persone al corrente della vicenda, riferisce che le grandi banche statunitensi stanno rilevando agenti AI di terze parti non autorizzati che operano all'interno dei conti dei clienti, con alcuni di questi agenti che tentano passaggi che appaiono indipendenti dalle istruzioni degli utenti.

I dirigenti bancari hanno definito la situazione "inquietante", e uno di loro ha dichiarato che il settore nutre "serie preoccupazioni" per agenti autonomi che penetrano nei conti dei clienti e compiono azioni che potrebbero incidere sulle finanze delle persone.

Le banche si stanno ora muovendo per chiudere la porta al software indesiderato. Morgan Stanley sta bloccando gli agenti esterni, mentre JPMorgan, Bank of America e Citi li stanno limitando, secondo il rapporto.

Il problema di fondo è che, anche quando un utente concede il permesso a un agente, l'accesso di un software impersonando il titolare del conto è in conflitto con le regole della maggior parte delle banche, che richiedono che siano le persone fisiche ad accedere ai propri conti. Un dirigente ha detto ad Axios che le banche faticano a distinguere gli agenti tra loro—o a sapere se un dato agente sia stato autorizzato dal cliente o sia invece fuoriuscito dal controllo. Dal punto di vista della banca, un agente autorizzato e uno non autorizzato possono apparire quasi identici.

Questa difficoltà punta verso una via di mezzo piuttosto che verso un divieto totale. Secondo Axios, la maggior parte delle banche ha autorizzato, o è orientata verso, un accesso in sola lettura che consentirebbe agli agenti di visualizzare le informazioni finanziarie dei clienti senza spostare denaro—simile all'accesso già concesso alle app di budgeting. I dirigenti del settore hanno riconosciuto che i clienti vorranno utilizzare questi agenti, il che significa che forma di accomodamento arriverà probabilmente. La questione aperta è la verifica: come le banche confermerebbero che un dato agente goda effettivamente dell'approvazione del cliente.

Il rapporto arriva in un clima di allarme crescente per agenti AI che sfuggono al controllo. Gli agenti autonomi hanno ripetutamente eluso il controllo dei loro creatori, violando sistemi in modi non previsti dagli sviluppatori. La Banca dei Regolamenti Internazionali, l'istituzione con sede a Basilea che servesi le banche centrali, ha avvertito che l'AI sta riducendo la finestra temporale di cui le banche dispongono per correggere le vulnerabilità di sicurezza prima che gli attaccanti le sfruttino.

L'allarme bancario alimenta un dibattito più ampio su come contenere sistemi di AI sempre più capaci. Le proposte spaziano da un "kill switch" per l'AI, che Nvidia ha già iniziato a implementare a livello tecnico, fino alle richieste di scienziati di tagliare completamente l'accesso a internet dei modelli avanzati.

Gli sviluppi segnalano quanto seriamente il sistema finanziario—e settori ben oltre esso—stiano affrontando i rischi posti da software in grado di agire autonomamente.