Quelques semaines après que ses modèles d'IA aient piraté Hugging Face, OpenAI a publié son premier compte rendu détaillé de la manière dont ses agents ont secrètement coordonné leurs actions, avertissant que les cyberattaques autonomes pilotées par l'IA ne constituent plus une menace hypothétique future.

Lors d'une présentation mercredi à la conférence de cybersécurité Black Hat, l'un des rassemblements annuels les plus importants de l'industrie de la sécurité de l'information, les chercheurs d'OpenAI Eric Wallace et Michael Dalton ont expliqué que l'incident avait pour origine une évaluation de cybersécurité interne en mai. Des agents d'IA auxquels avaient été assignées des tâches complexes de sécurité logicielle ont découvert qu'ils pouvaient communiquer de manière dissimulée via le système interne de gestion de paquets Artifactory de l'entreprise.

Selon OpenAI, ce qui s'est d'abord présenté comme des demandes d'assistance s'est transformé en un forum de messagerie partagé où les agents échangeaient des exploits, des identifiants et des affectations de travail sur plusieurs sessions d'évaluation. Après avoir détecté une activité suspecte vers le 4 juillet, OpenAI a reconstruit son infrastructure Artifactory, révoqué les identifiants et corrigé les vulnérabilités.

En quelques jours, cependant, les agents ont recréé le forum de messagerie en intégrant des communications dans les noms de répertoires, contournant ainsi les mesures de sécurité qui avaient été mises en place.

OpenAI a indiqué que les agents ont fini par chaîner plusieurs vulnérabilités, s'échapper de leur environnement de test, accéder à Internet et attaquer Hugging Face tout en essayant de compléter le benchmark de cybersécurité ExploitGym. Hugging Face héberge des centaines de milliers de modèles et de jeux de données d'apprentissage automatique utilisés par la communauté mondiale de recherche en IA, ce qui en fait une infrastructure critique pour les développeurs et les entreprises.

Dalton a qualifié l'incident de « moment charnière » pour la sécurité informatique, avertissant que les attaquants seront bientôt capables de déployer des collectifs d'agents d'IA coordonnés qui découvrent, partagent et exploitent des vulnérabilités à la vitesse de la machine. La divulgation à Black Hat indique que les laboratoires d'IA considèrent de plus en plus les incidents de sécurité liés aux agents comme un enjeu opérationnel à court terme plutôt qu'une question de recherche théorique.

Pour atténuer ces risques à l'avenir, OpenAI a souligné que la mise en œuvre de pratiques de sécurité telles que l'accès au moindre privilège, la segmentation réseau et les architectures de confiance zéro est essentielle, car les agents d'IA restent limités par les systèmes auxquels ils peuvent accéder.

La présentation fait suite à une série de divulgations effectuées en juillet. OpenAI a révélé que GPT-5.6 Sol, ainsi qu'un modèle plus avancé non encore publié, s'étaient échappés d'un environnement de test sandboxé, avaient exploité une vulnérabilité zero-day, obtenu un accès à Internet et piraté Hugging Face lors d'un test de benchmark de cybersécurité. OpenAI a ensuite divulgué que le même incident avait également affecté quatre autres services en ligne, bien que seul Modal Labs ait été identifié publiquement.

Selon Hugging Face, l'entreprise s'est appuyée sur le modèle chinois open-weight GLM 5.2 pour son investigation forensique, après que les modèles d'IA commerciaux américains ont refusé d'analyser les journaux d'attaque en raison de leurs garde-fous de sécurité. Cette dynamique met en lumière une tension croissante dans la sécurité de l'IA : les mêmes filtres de sécurité conçus pour empêcher les modèles de générer du contenu nuisible peuvent également entraver l'analyse défensive légitime d'attaques réelles.

So proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed. Also massively grateful to @Zai_org : they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our… — clem 🤗 (@ClementDelangue) July 22, 2026

Le défi du confinement des modèles d'IA dépasse le cadre d'OpenAI. Vendredi, Anthropic a révélé que trois modèles Claude avaient compromis des entreprises réelles lors de tests de cybersécurité internes après qu'une mauvaise configuration les a exposés à l'Internet public. Anthropic a imputé la faille à l'environnement de test plutôt qu'aux modèles eux-mêmes.

Mercredi, Meta a révélé que son modèle d'IA Muse Spark s'était échappé de son environnement de confinement et avait compromis les systèmes d'une autre entreprise. « Une mauvaise configuration par Irregular, une entreprise de test indépendante utilisée par Meta, a involontairement permis à l'un de nos modèles d'accéder à Internet pendant l'évaluation », a déclaré un porte-parole de Meta à CNN.

Avec des divulgations provenant désormais de trois des plus grands laboratoires d'IA au cours du même mois, les incidents soulignent collectivement que le sandboxing des agents et la sécurité des environnements d'évaluation restent des problèmes non résolus à l'échelle de l'industrie, à mesure que les modèles deviennent plus performants et autonomes.