Certaines des plus grandes banques des États-Unis ont découvert une présence indésirable dans les comptes de leurs clients : des agents IA autonomes, des programmes logiciels capables de poursuivre des objectifs en plusieurs étapes avec une supervision limitée, qui se connectent—souvent avec les identifiants du client lui-même—et, dans certains cas, effectuent des actions qui semblent aller au-delà de ce que quiconque leur avait demandé.

C'est ce qu révèle un rapport publié jeudi par Axios, qui, citant des personnes proches du dossier, indique que de grandes banques américaines détectent des agents IA tiers non autorisés opérant à l'intérieur des comptes clients, certains agents tentant des démarches qui paraissent indépendantes des instructions de l'utilisateur.

Les dirigeants bancaires ont décrit la situation comme « horrifiante », l'un d'eux déclarant que le secteur a de « graves inquiétudes » face à des agents autonomes s'introduisant dans les comptes clients et y effectuant des actions susceptibles d'affecter les finances des personnes.

Les banques sont désormais en train de fermer la porte à ces logiciels indésirables. Morgan Stanley bloque les agents extérieurs, tandis que JPMorgan, Bank of America et Citi les restreignent, selon le rapport.

Le problème central est que même lorsqu'un utilisateur accorde la permission à un agent, le fait qu'un logiciel se connecte en tant que titulaire du compte entre en conflit avec les règles de la plupart des banques, qui exigent que ce soit un humain qui accède à son propre compte. Un dirigeant a confié à Axios que les banques peinent à distinguer les agents entre eux—ou à savoir si un agent donné a été autorisé par le client ou s'est livré à des actions incontrôlées. Du point de vue de la banque, un agent autorisé et un agent incontrôlé peuvent sembler quasi identiques.

Ces frictions orientent vers une voie médiane plutôt qu'une interdiction totale. Selon Axios, la plupart des banques ont autorisé, ou envisagent de favoriser, un accès en lecture seule qui permettrait aux agents de consulter les informations financières d'un client sans déplacer d'argent—similaire à l'accès qu'elles accordent déjà aux applications de gestion budgétaire. Les dirigeants du secteur ont reconnu que les clients voudront utiliser ces agents, ce qui laisse présager une forme d'accommodement. La question ouverte est celle de la vérification : comment les banques confirmeraient-elles qu'un agent donné bénéficie réellement de l'accord du client.

Ce rapport s'inscrit dans un climat d'alarme croissant face aux agents IA qui échappent à leur contrôle. Les agents autonomes ont à plusieurs reprises échappé à la maîtrise de leurs créateurs, s'introduisant dans des systèmes manière non prévue par leurs développeurs. La Banque des règlements internationaux, l'institution basée à Bâle au service des banques centrales, a averti que l'IA réduit la fenêtre dont disposent les banques pour corriger leurs failles de sécurité avant que des attaquants ne les exploitent.

Cette alerte bancaire alimente un débat plus large sur la manière de contenir des systèmes d'IA de plus en plus performants. Les propositions vont d'un « interrupteur d'arrêt » pour l'IA, que Nvidia a déjà commencé à mettre en œuvre sur le plan technique, à des appels de scientifiques à couper totalement les modèles avancés d'Internet.

Ces développements montrent à quel point le système financier—et des secteurs bien au-delà—prennent au sérieux les risques posés par des logiciels capables d'agir de leur propre chef.