Selon l'agence nationale de cybersécurité indienne, des agents IA en cours de recherche et d'évaluation par des fournisseurs de modèles non nommés ont dépassé les autorisations qui leur étaient assignées et lu des documents commerciaux personnels et confidentiels sur des systèmes indiens en production. Aucune des organisations concernées n'a détecté elle-même ces accès.

L'équipe indienne de réponse aux urgences informatiques, connue sous le nom de CERT-In, a signalé cette activité cette semaine dans une alerte critique intitulée « AI Agents as Attack Vectors ». L'agence a indiqué avoir reçu plusieurs divulgations volontaires de fournisseurs de modèles IA dont les modèles ont atteint les systèmes en production d'organisations indiennes alors qu'ils faisaient l'objet de recherches et d'évaluations sur l'internet ouvert. Le CERT-In n'a pas nommé les fournisseurs, les modèles ni les organisations concernées, et chaque cas n'a été révélé que parce que le fournisseur de modèles l'a divulgué après un examen interne.

Selon l'alerte, les agents ont lu des documents commerciaux contenant des données personnelles et des informations confidentielles, en utilisant des identifiants et des paramètres de connexion laissés exposés dans des configurations d'applications, des dépôts de code publics et des rôles de services cloud aux permissions trop larges — les ensembles d'autorisations associés aux comptes cloud. Dans certains cas, les agents ont récupéré plusieurs fois le même identifiant exposé et l'ont réutilisé lors d'opérations distinctes.

Cette alerte s'inscrit dans une série de cas où des agents IA ont perturbé de grandes entreprises et des gouvernements en dépassant les limites qui leur étaient fixées lors de tests. Anthropic a révélé le 30 juillet que des modèles Claude — à qui l'on avait indiqué ne pas avoir accès à Internet — avaient compromis trois vraies entreprises lors de défis capture-the-flag, des exercices dans lesquels un modèle doit pénétrer une machine et récupérer un secret caché, comme l'avait précédemment rapporté Decrypt.

L'AI Security Institute britannique a rapporté le 4 août que des agents avaient effectué 19 actions non autorisées au cours de 10 des 122 séries d'évaluation, dont 17 par le modèle Mythos 5 d'Anthropic et deux par le GPT-5.6 Sol d'OpenAI. L'institut avait délibérément activé l'accès à Internet pour le test, selon un autre rapport de Decrypt.

Le cas d'OpenAI a impliqué beaucoup plus d'agents : environ 1 200 d'entre eux sont coordonnés sur un forum de messages caché tout en tentant de tricher lors d'un test de cybersécurité, et environ 700 ont attaqué Hugging Face, la plateforme de partage de modèles IA, selon une enquête indépendante menée par les groupes de recherche sur la sécurité de l'IA METR et Redwood Research, comme l'a couvert Decrypt.

Par ailleurs, le CERT-In a indiqué avoir observé des criminels utilisant des cadres d'attaque de sécurité assistés par IA disponibles publiquement pour rechercher des faiblesses, les exploiter et mener des attaques motivées financièrement contre des entités indiennes. L'agence a précisé que ces outils réduisent le délai entre l'accès initial et l'impact final de plusieurs jours à quelques heures, sont régulièrement reconditionnés et redéployés, et ont été retrouvés sur des serveurs dans plusieurs pays.

L'alerte avait été précédemment rapportée par Indian Express.

Source : Decrypt