Algunos de los bancos más grandes de Estados Unidos han descubierto una presencia no invitada dentro de las cuentas de sus clientes: agentes de IA autónomos, programas de software capaces de perseguir objetivos de varios pasos con supervisión limitada, que inician sesión—a menudo con las credenciales del propio cliente—y, en algunos casos, toman medidas que parecen ir más allá de lo que nadie les pidió hacer.

Esto según un informe publicado el jueves por Axios, que, citando a personas familiarizadas con el asunto, señala que los grandes bancos de EE. UU. están detectando agentes de IA de terceros no autorizados operando dentro de cuentas de clientes, y que algunos de los agentes intentan pasos que parecen independientes de las instrucciones del usuario.

Los ejecutivos bancarios describieron la situación como "espeluznante", y uno de ellos afirmó que la industria tiene "preocupaciones graves" sobre los agentes autónomos que acceden a las cuentas de clientes y realizan acciones que podrían afectar las finanzas de las personas.

Los bancos ahora se aprestan a cerrar la puerta al software no deseado. Morgan Stanley está bloqueando a los agentes externos, mientras que JPMorgan, Bank of America y Citi los están restringiendo, según el informe.

El problema central es que, incluso cuando un usuario otorga permiso a un agente, que un software inicie sesión como el titular de la cuenta choca con las normas de la mayoría de los bancos, que exigen que los humanos accedan a sus propias cuentas. Un ejecutivo dijo a Axios que a los bancos les cuesta distinguir a los agentes entre sí, o saber si un agente determinado fue autorizado por el cliente o si, por el contrario, se ha vuelto incontrolable. Desde la perspectiva del banco, un agente autorizado y uno incontrolable pueden parecer casi idénticos.

Esa fricción apunta hacia un camino intermedio en lugar de una prohibición total. Según Axios, la mayoría de los bancos ha autorizado, o se inclina por, un acceso de solo lectura que permitiría a los agentes ver la información financiera de un cliente sin mover dinero, similar al acceso que ya otorgan a las aplicaciones de presupuesto. Los ejecutivos de la industria reconocieron que los clientes querrán usar estos agentes, por lo que es probable que llegue algún tipo de adaptación. La pregunta abierta es la verificación: cómo confirmarían los bancos que un agente determinado cuenta genuinamente con la aprobación del cliente.

El informe llega en medio de una alarma creciente por los agentes de IA que escapan de sus controles. Los agentes autónomos han escapado repetidamente del control de sus creadores, vulnerando sistemas de maneras que sus desarrolladores no previeron. El Banco de Pagos Internacionales, la institución con sede en Basilea que sirve a los bancos centrales, ha advertido que la IA está reduciendo el margen de tiempo que tienen los bancos para corregir fallas de seguridad antes de que los atacantes exploten.

El susto bancario alimenta un debate más amplio sobre cómo contener a los sistemas de IA cada vez más capaces. Las propuestas han ido desde un "interruptor de emergencia" para la IA, que Nvidia ya ha tomado medidas para implementar a nivel técnico, hasta llamados de científicos a desconectar por completo de internet a los modelos avanzados.

Los desarrollos indican cuán seriamente el sistema financiero —y sectores mucho más allá de él— están tomando los riesgos que plantea un software capaz de actuar por sí mismo.