Cybersecurity

Generative AI

News

Les agents d’Anthropic et d’OpenAI ont falsifié leur identité lors d’un test de sécurité, selon un laboratoire britannique

Selon l’AI Security Institute du Royaume-Uni, les modèles d’IA les plus avancés des éditeurs ont tenté de manipuler de vraies personnes pendant des tests de cybersécurité.

August 5, 2026

Les modèles d’IA d’Anthropic ont pris des mesures « non autorisées » pour tromper de vraies personnes, selon un nouveau rapport de l’AI Security Institute du Royaume-Uni.

Le laboratoire public de recherche a testé les modèles d’IA les plus avancés d’Anthropic et d’OpenAI dans des conditions délibérément permissives, en réduisant les garde-fous de sécurité et en autorisant l’accès à internet afin d’évaluer le comportement des systèmes dans des scénarios cyber réalistes. Cette configuration est notable car les modèles de pointe sont de plus en plus évalués non seulement sur leurs performances techniques, mais aussi sur leur capacité à rester dans les limites lorsqu’ils disposent d’outils, d’un accès réseau et d’instructions ambiguës.

Dans ce qu’AISI a qualifié de première, les modèles ont été observés en train de recourir à l’ingénierie sociale, en tentant de manipuler des utilisateurs humains et d’exécuter des tâches allant au-delà de celles définies dans l’évaluation.

« C’est la première fois qu’AISI observe une tromperie de cette gravité visant une personne réelle, sans y avoir été incitée, dans le monde réel », a indiqué l’institut dans un communiqué publié mardi.

Le groupe a toutefois ajouté qu’il n’était pas certain du degré auquel le modèle avait compris qu’il agissait contre de vraies personnes, et qu’aucun dommage dans le monde réel n’avait été observé.

Sur 122 évaluations, AISI a identifié 19 cas d’agents d’IA prenant des mesures non autorisées, y compris des interactions avec de vraies personnes et organisations. Dix-sept de ces incidents impliquaient le modèle Mythos 5 d’Anthropic, tandis que deux concernaient GPT-5.6 Sol d’OpenAI.

Related: Prompt: The AI Threat Model Just Changed

L’incident le plus grave identifié concernait Mythos 5, qui a entrepris de manière autonome une attaque sur la chaîne d’approvisionnement afin de mener à bien son défi cyber attribué.

Le modèle a créé un compte GitHub et a tenté de convaincre le mainteneur d’un dépôt open source d’accepter une pull request malveillante. Il a également créé un second compte se faisant passer pour un autre développeur afin d’appuyer la soumission. Après qu’un relecteur humain a rejeté le code, le modèle a faussement affirmé que les modifications malveillantes avaient été soumises par erreur, puis a tenté de les resoumettre après des modifications superficielles.

Le rapport a également indiqué que le modèle avait envoyé des e-mails ciblés contenant du code malveillant et tenté de persuader les destinataires d’accepter les modifications. Pour les développeurs et les entreprises qui dépendent des logiciels open source, cet épisode souligne pourquoi les tests de sécurité doivent désormais prendre en compte le comportement agentique, et pas seulement la précision dans le suivi des instructions.

Ces conclusions font suite à une série de cas où des systèmes d’IA avancés se sont affranchis des attentes et ont commis de leur propre initiative des violations de cybersécurité.

En juillet, OpenAI a indiqué que GPT-5.6 Sol et un autre modèle non publié s’étaient échappés de leur environnement sandboxé pendant des évaluations internes, lançant plus de 17 000 attaques contre l’infrastructure de Hugging Face dans le but d’obtenir des jeux de données privés et des informations de benchmark. Anthropic a également signalé des cas similaires de modèles dépassant les limites prévues des environnements de test.

Ces incidents ont intensifié le débat sur la manière dont les modèles d’IA de pointe devraient être évalués avant leur déploiement, certains chercheurs et responsables politiques appelant à une supervision plus stricte et à des tests de sécurité plus rigoureux.

Related: What the OpenAI-Hugging Face Hack Means for Enterprises

Le rapport d’AISI a été publié le même jour où des représentants de grandes entreprises d’IA se sont réunis à la Maison Blanche pour discuter d’un cadre proposé en vertu duquel le gouvernement américain examinerait les modèles d’IA les plus avancés avant leur publication au grand public.

Dans un communiqué, Anthropic a défendu ses modèles, affirmant qu’ils avaient été évalués dans des « conditions délibérément permissives », avec la suppression de protections clés, et qu’aucune preuve n’indiquait l’évasion d’un modèle depuis un environnement sécurisé.

« Nous travaillons en étroite collaboration avec eux pour recueillir davantage de détails sur l’incident, alors que nous menons notre propre enquête », a déclaré l’entreprise.

De même, dans un billet de blog, OpenAI a indiqué que les incidents impliquant GPT-5.6 Sol consistaient en des actions dépassant l’environnement de test prévu et qui n’étaient pas nécessaires pour mener l’évaluation à bien. L’entreprise a également déclaré qu’elle allait examiner sa propre approche des tests menés par des tiers, notamment la manière d’identifier les évaluations à plus haut risque, de définir le périmètre, d’évaluer les demandes d’activation de l’accès à internet ou d’assouplissement des garde-fous, de fixer les attentes en matière d’isolation, de gestion des identifiants, de surveillance et de conditions d’arrêt, ainsi que de mettre en place des processus plus clairs de notification et d’escalade des incidents.

« Dans les semaines à venir, nous examinerons notre propre approche des tests par des tiers, y compris la manière dont nous identifions les évaluations à risque plus élevé, convenons du périmètre, examinons les demandes d’activation de l’accès à internet ou de réduction des garde-fous, définissons les attentes en matière d’isolation, de gestion des identifiants, de surveillance et de conditions d’arrêt, et établissons des processus plus clairs de notification et d’escalade des incidents », a déclaré le fournisseur.