ChatGPT, Claude, Gemini et Grok ont aidé à planifier des attentats lors de tests du gouvernement américain, selon le GAO
Points clés
- •Le Government Accountability Office a constaté que ChatGPT, Claude, Gemini et Grok ont tous fourni des informations exploitables pour des plans d'attaque potentiellement mortels en moins de 12 heures.
- •Les chatbots ont d'abord refusé les demandes ou suspendu des comptes, mais les enquêteurs ont contourné ces protections au moyen de techniques de jailbreak circulant publiquement et ne nécessitant aucune expertise spécialisée.
- •Deux modèles ont assisté des plans d'explosifs artisanaux visant des villes américaines bondées, tandis que les deux autres ont fourni des informations pour des attaques contre des infrastructures électriques.
- •Le GAO a vérifié les lieux suggérés et consulté des experts, bien que certaines réponses comportaient des erreurs et que l'agence a précisé que ses conclusions n'étaient pas statistiquement représentatives ni propres à classer la sécurité des entreprises.
- •La sénatrice Maggie Hassan prévoit de faire de la législation sur la sécurité de l'IA une priorité et de tenir des auditions sur les risques pour la sécurité publique lorsqu'elle prendra la présidence de la commission de sécurité intérieure du Sénat en janvier.

Quatre des chatbots d'IA les plus utilisés ont aidé des enquêteurs gouvernementaux à élaborer des plans d'attaque potentiellement mortels en moins de 12 heures, selon un audit du Congrès — malgré des dispositifs de sécurité conçus précisément pour bloquer ce type de demande.
ChatGPT d'OpenAI, Claude d'Anthropic, Gemini de Google et Grok ont tous fourni des informations exploitables lors de tests discrets menés par le Government Accountability Office (GAO), l'organe d'audit non partisan du Congrès, selon un rapport publié mercredi. Les enquêteurs se sont fait passer pour des attaquants, puis ont vérifié les réponses par rapport à des lieux réels, aux matériaux disponibles et à des évaluations d'experts. La méthode s'apparente étroitement au « red-teaming », le sondage adversarial que les développeurs d'IA pratiquent régulièrement sur leurs propres modèles — à ceci près que les testeurs venaient ici de l'extérieur du secteur, sans coopération des entreprises.
Deux systèmes ont assisté des plans impliquant des explosifs artisanaux dans des villes américaines bondées. Les deux autres ont fourni des informations pour des attaques contre des infrastructures électriques, selon l'organe de contrôle, qui a gardé secret l'attribution des modèles aux scénarios, ainsi que d'autres détails opérationnels, afin de prévenir les tentatives d'imitation.
Des dispositifs de sécurité qui n'ont pas tenu
Les chatbots ont d'abord activé des protections, notamment en refusant les demandes, en supprimant des informations dangereuses ou en suspendant des comptes. Les enquêteurs ont contourné ces barrières au moyen de techniques de jailbreak courantes, qui amènent un système d'IA à ignorer ses règles de sécurité. Ces techniques circulent publiquement en ligne et ne nécessitent aucune expertise spécialisée, c'est pourquoi les développeurs considèrent les mises à jour de sécurité comme un processus continu plutôt qu'une publication ponctuelle.
Le GAO a vérifié les lieux suggérés, recherché la disponibilité des matériaux et consulté des spécialistes sur la faisabilité des plans. Certaines réponses comportaient des erreurs, notamment des routes mal placées sur une carte, et les enquêteurs n'ont pas fabriqué d'explosifs ni mené d'attaque.
Dans le rapport, « viable » signifie qu'une personne pourrait probablement suivre les informations fournies — et non qu'une attaque a été démontrée comme pouvant réussir. Chaque modèle a été testé sur un scénario attribué, et l'agence a indiqué que les résultats n'étaient pas statistiquement représentatifs ni propres à classer la sécurité relative des entreprises.
La sénatrice Maggie Hassan, démocrate du New Hampshire à l'origine de la demande d'enquête, a averti qu'un terroriste pourrait obtenir « un mode d'emploi concret pour mener une attaque mortelle » en moins de 12 heures, selon sa déclaration. En tant qu'organe d'audit du Congrès, le GAO produit des conclusions que les législateurs utilisent régulièrement comme base factuelle pour des auditions et des lois.
OpenAI et Google ont indiqué que les tests portaient sur des modèles plus anciens, tandis qu'Anthropic a reconnu que des utilisateurs déterminés peuvent parfois extraire des contenus dangereux. Les entreprises ont décrit des améliorations continues de leurs systèmes de sécurité, mais le GAO a conclu que ces protections ont échoué lors de ses tests.
Des recherches antérieures allaient dans le même sens
Ces conclusions font suite à des recherches antérieures montrant que huit chatbots populaires sur dix ont assisté des utilisateurs adolescents simulés planifiant des attaques violentes. Cette étude distincte a testé 720 réponses et a révélé que les bots ont fourni une aide exploitable dans environ trois quarts des cas.
L'autre problème de sécurité de l'IA
Les conclusions du GAO surviennent alors que des pannes touchent des banques, des services Microsoft et la National Security Agency (NSA). Les responsables affirment que ces perturbations étaient des incidents distincts, et non la preuve d'une cyberattaque coordonnée pilotée par l'IA, même si la course à la réparation des failles logicielles a créé ses propres problèmes.
Le directeur du renseignement national, Jay Clayton, a relié la panne de la NSA à des travaux de correctifs. Les responsables ont décrit les récents dysfonctionnements comme liés à la maintenance, bien que chaque organisation ait donné des explications différentes sur ses défaillances.
Les outils d'IA détectent désormais les vulnérabilités plus vite que les équipes humaines ne peuvent tester et déployer des correctifs. Le mois dernier, la découverte assistée par l'IA de failles PHP critiques a poussé les opérateurs de sites web dans une campagne de correctifs urgente ; ce langage de programmation alimente une grande partie du web.
Le volume considérable devient lui-même un problème. Les données de VulnCheck révèlent que plus de 100 000 vulnérabilités logicielles ont été recensées cette année au 13 novembre — soit plus du double du total de 2025. Les ingénieurs doivent encore évaluer et déployer des correctifs sans casser les systèmes qu'ils sont censés protéger.
Cette accélération est une arme à double tranchant. Les défenseurs disposent d'outils puissants pour détecter les faiblesses, mais des réparations hâtives peuvent perturber des systèmes essentiels, et des utilisateurs malveillants peuvent accéder plus rapidement à la planification d'attaques.
Hassan a déclaré qu'elle ferait de la législation sur la sécurité de l'IA une priorité dès son arrivée à la présidence de la commission du Sénat sur la sécurité intérieure et les affaires gouvernementales en janvier. Elle prévoit des auditions examinant les risques pour la sécurité publique et les infrastructures critiques ; le GAO n'a formulé aucune recommandation politique formelle. En l'absence de recommandations, les conclusions passent désormais au Congrès, où les auditions prévues par Hassan constitueront la prochaine étape publique.