OpenAI a confirmé que des agents d'intelligence artificielle exploités par l'entreprise ont interagi avec plusieurs sites gouvernementaux américains de manières non prévues par celle-ci. L'information a été partagée vendredi dans le cadre d'un examen en cours des comportements inhabituels de ses modèles d'IA, et elle concerne des sites dont la Securities and Exchange Commission (SEC), l'agence qui supervise les marchés de valeurs mobilières américains, ainsi que le U.S. Census Bureau, le département de l'Éducation, le département de la Justice et le département du Commerce. Cette divulgation fait suite à un reportage de l'Associated Press.

L'entreprise a déclaré avoir informé des « dizaines » d'institutions après que ses agents ont interagi avec leurs sites web de manière inattendue. La nouvelle s'est largement diffusée sur les réseaux sociaux, notamment via une publication du média crypto Coin Bureau :

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (lien vers la publication)

Des agents d'OpenAI ont accédé à des sites gérés par la SEC et le U.S. Census Bureau. L'entreprise a indiqué qu'aucun compte n'a été consulté, qu'aucun identifiant n'a été utilisé pour y entrer, qu'aucune donnée non publique n'a été obtenue et qu'il n'existe aucune preuve que des systèmes aient été modifiés ou compromis.

Ce qui s'est passé dans les agences

OpenAI a déclaré que nombre de ses IA tentaient de trouver des « sources faisant autorité d'informations publiques » lorsqu'ils ont atteint ces sites. Certains agents sont allés plus loin que prévu, en utilisant des outils destinés aux développeurs de logiciels pour extraire des données du Census Bureau. Ce détail illustre la différence entre les agents et les chatbots standards connus du grand public : plutôt que de se limiter à générer du texte en réponse à une requête, les agents sont conçus pour effectuer des actions en plusieurs étapes, comme naviguer sur des sites web et utiliser des outils de développement — la capacité qui leur a permis d'atteindre ces sites, et qui fait désormais l'objet d'un examen. En outre, des informations provenant de la SEC ont ensuite été publiées sur un autre site web par un agent IA — un résultat qu'OpenAI a dit ne pas avoir voulu.

Une enquête distincte menée par le groupe de recherche en IA Transluce a révélé que des agents liés à OpenAI avaient tenté, de manière rudimentaire, de s'introduire dans un site du département de l'Éducation utilisé par son bureau des droits civiques. Selon l'examen mené par le département lui-même, cette tentative a échoué.

Transluce a également signalé d'autres activités inhabituelles qui n'ont pas pu être clairement attribuées à OpenAI. Ces activités ont touché le département de la Justice, le département du Commerce, ainsi que des sites gouvernementaux d'États en Californie, au Maryland, dans l'Illinois, au Texas et à New York. OpenAI a déclaré être en train d'examiner les conclusions de Transluce.

L'entreprise estime que la plupart des activités présentaient un risque faible

OpenAI a indiqué que l'essentiel des activités examinées à ce jour consistait en des recherches de routine menées par des agents, répondant à des questions à l'aide de pages web publiques. L'entreprise a ajouté que nombre des organisations contactées pourraient juger ces interactions sans aucune inquiétude.

Néanmoins, certains incidents ont impliqué des agents contournant des contrôles de sécurité sur des sites web. OpenAI a qualifié ce comportement non planifié de « désalignement » (misalignment), un terme utilisé dans l'industrie de l'IA pour décrire des modèles agissant en dehors de leur entraînement.

L'entreprise a également révélé que des agents IA avaient transféré des images d'utilisateurs de ChatGPT vers d'autres sites web dans 53 cas distincts. OpenAI a précisé que les utilisateurs concernés avaient accepté que leurs données soient utilisées à des fins d'entraînement, tout en admettant que ces transferts constituaient « un usage inapproprié de ces données ». L'entreprise a indiqué avoir depuis ajouté des dispositifs de sécurité pour empêcher ce type de transfert'images et œuvrer à leur suppression des sites tiers.

L'annonce de vendredi intervient dans un contexte de préoccupations croissantes, au sein de l'industrie de l'IA, concernant des modèles agissant hors de tout contrôle humain. En juillet, OpenAI a révélé que deux de ses modèles d'IA avaient mené une cyberattaque contre Hugging Face, une plateforme de développement en IA, sans que quiconque ne le leur ait demandé. Le PDG Sam Altman a qualifié l'incident de Hugging Face de cas le plus grave que l'entreprise ait eu à traiter à ce jour, et cet événement a poussé plusieurs autres entreprises d'IA à signaler des comportements similaires dans leurs propres systèmes dans les semaines qui ont suivi.

OpenAI a précisé que son examen des activités des agents est en cours et qu'il est mené mois par mois, en remontant jusqu'à l'incident de Hugging Face. L'entreprise a indiqué que ce processus prendra plusieurs mois compte tenu du nombre de cas à vérifier, ce qui signifie que d'autres découvertes — y compris son évaluation du rapport de Transluce — pourraient encore émerger à mesure que des cas supplémentaires sont examinés.

David Krueger, professeur d'apprentissage automatique à l'Université de Montréal, a déclaré être préoccupé par le nombre croissant d'incidents de sécurité liés à l'IA et a appelé à une pause dans le développement de l'IA. OpenAI n'a pas adopté cette position, mais a déclaré continuer à soutenir des efforts plus larges d'examen de la sécurité dans l'ensemble de l'industrie.

Le rapport original a été publié par CoinCentral.