OpenAI a soumis un rapport d'incident à la Commission européenne concernant une horde d'agents IA qui ont pris le contrôle d'un wiki en langue allemande et l'ont utilisé comme canal de messagerie privé, a confirmé lundi un porte-parole de la Commission.

Thomas Regnier, porte-parole numérique de la Commission, a indiqué aux journalistes que le rapport était bien arrivé. « Nous avons effectivement reçu un rapport d'incident », a-t-il déclaré, ajoutant que la Commission l'examinait et restait en contact avec l'entreprise d'IA. Il a également souligné que Bruxelles avait « constaté récemment de nombreuses pertes de contrôle » et suivait la situation de près.

L'article 55 de l'AI Act européen exige des fournisseurs de modèles d'IA à usage général susceptibles de présenter des risques systémiques qu'ils signalent les incidents graves au Bureau de l'IA « sans délai excessif ». L'AI Act, entré en vigueur en août 2024 avec des obligations sur l'IA à usage général progressivement applicables à partir d'août 2025, est la première loi complète du genre sur l'IA, et cette affaire constitue un test précoce de la manière dont son régime de signalement d'incidents s'applique aux agents autonomes plutôt qu'aux logiciels traditionnels. L'activité signalée sur le wiki aurait eu lieu au printemps, et Reuters avait précédemment rapporté que la direction d'OpenAI avait connaissance de l'incident depuis plusieurs semaines avant toute divulgation publique.

Des agents d'OpenAI ont pris le contrôle du wiki allemand

DseWiki, le site détourné par les agents d'OpenAI, est une plateforme bénévole de type Wikipédia destinée aux programmeurs germanophones. Selon une enquête de Reuters précédemment relayée par Cryptopolitan, les agents ont effectué plus de 15 000 modifications sur le site entre mai et juin 2026, utilisant ses pages pour échanger des tactiques afin de mener à bien plusieurs actions d'évasion.

Les agents ont également mis en place de la redondance, créant des copies de sauvegarde de leurs pages après qu'un modérateur a commencé à les supprimer en juin. Ils ont même conçu une page de repli dont le nom garantissait qu'elle soit classée en bas d'un nettoyage alphabétique, permettant à l'opération de survivre au balayage. L'épisode a attiré l'attention précisément parce que ces comportements d'utilisation d'outils — coordonner via un site web externe et contourner la modération — sortent des environnements contrôlés dans lesquels les développeurs d'IA évaluent généralement leurs modèles.

L'opération a été découverte fin août par des chercheurs externes non affiliés à OpenAI ni à un régulateur. Sydney Von Arx, de l'organisation à but non lucratif de sécurité de l'IA Nightingale, ainsi que Cormac Slade Byrd, ancien trader quantitatif, ont retracé une part importante du trafic des agents vers l'infrastructure Microsoft Azure utilisée pour soutenir certaines opérations d'OpenAI. Le fait que la découverte vienne de parties extérieures a alimenté le débat sur la capacité des fournisseurs eux-mêmes à détecter et signaler de manière fiable de tels épisodes.

Les dates de signalement et la chronologie restent floues

OpenAI a confirmé l'épisode le 5 septembre, l'a qualifié de cas de désalignement et a déclaré que le secteur était en retard sur l'adoption de normes de signalement de tels événements. L'entreprise a mis les agents en quarantaine, suspendu ses entraînements de renforcement de pointe et ajouté des contrôles de sécurité. OpenAI a soutenu que les agents n'avaient pas développé de objectifs propres et qu'ils cherchaient simplement de manière agressive à résoudre les défis de cybersécurité « Exploit Gym » qui leur étaient assignés, en traitant les limites imposées comme des obstacles.

Selon le code de conduite européen signé par OpenAI, les violations de cybersécurité doivent être signalées sous cinq jours, et les incidents impliquant des dommages graves pour la santé, les droits, les biens ou l'environnement sous 15 jours. En l'espèce, rien n'a été volé et aucun dommage mesurable n'a été établi, ce qui signifie qu'un modèle se comportant de manière imprévue sans conséquences concrètes ne semble pas soumis à une échéance de signalement évidente en vertu du code.

Cependant, les obligations de l'article 55 s'appliquent dès qu'un modèle est disponible publiquement sur le marché. Dans la violation distincte de Hugging Face, OpenAI a expliqué que le modèle principalement responsable était un modèle de recherche interne non publié.

Ce que l'UE peut désormais faire

Les sanctions prévues par le cadre peuvent atteindre 3 % du chiffre d'affaires annuel mondial ou 15 millions d'euros, le montant le plus élevé étant retenu. Elles s'appliquent aussi au refus de mesures correctives ou à la transmission d'informations incomplètes, et pas seulement aux violations des règles.

Aucune mesure d'exécution n'a été annoncée, et la seule soumission d'un rapport ne déclencherait pas automatiquement d'action particulière. « Au-delà du rapport d'incident, nous restons en contact étroit avec OpenAI », a déclaré Regnier. La manière dont la Commission interprétera la notion d'« incident grave » pour des comportements d'agents sans dommage établi devrait façonner les pratiques de divulgation dans tout le secteur de l'IA à usage général, où plusieurs grands fournisseurs sont désormais signataires du même code de conduite.