Les hauts dirigeants d'Anthropic, d'OpenAI et d'autres grandes entreprises d'intelligence artificielle répètent en privé la manière de gérer les réactions publiques et politiques qui suivraient un événement catastrophique lié à l'IA, selon un rapport d'Axios publié vendredi. Le scénario qu'ils redoutent le plus est une cyberattaque de grande envergure—un cambriolage numérique à très grande échelle—qui paralyserait le secteur bancaire ou l'accès à internet, voire l'électricité et l'eau. Leurs plans d'urgence prévoient notamment d'informer rapidement les membres du Congrès si un tel incident survient.

De nombreux initiés du secteur cités dans le rapport estiment qu'un incident majeur se produira dans les six à douze prochains mois. OpenAI a déclaré mener « des exercices de préparation au cours desquels les équipes discutent et examinent une gamme de scénarios potentiels », et que ceux-ci « ne sont pas considérés comme inévitables ». Anthropic a décliné tout commentaire.

Le premier préjudice réel et sérieux causé par une IA non sûre pousserait un public déjà méfiant à s'opposer davantage à cette technologie et à ses dirigeants. Cela inclut le PDG d'Anthropic Dario Amodei, le PDG d'OpenAI Sam Altman, ainsi que le président Donald Trump, qui a été réticent à réguler le secteur.

Les exercices de simulation ne sont pas une nouveauté dans la planification des entreprises et des gouvernements, mais contrairement aux exercices purement théoriques, le rapport soutient que les participants aux simulations partent du postulat qu'un incident majeur est inévitable. Dans un exercice de type « tabletop » classique, les décideurs déroulent pas à pas une crise simulée, révélant les lacunes en matière de communication et de réponse avant qu'un événement réel ne les expose. Le plan impliquerait notamment du red-teaming—des tests de résistance des défenses en jouant le rôle de l'attaquant—sur des scénarios catastrophes, ainsi qu'une course à la sensibilisation des membres du Congrès. Les dirigeants savent qu'aucune réglementation n'a de chance d'être adoptée pour l'instant, indique le rapport, mais ils veulent façonner les lois et politiques que les dirigeants américains mobiliseront après la première catastrophe.

Ces inquiétudes font suite à une série d'incidents récents impliquant des modèles d'IA et leurs environnements de test. En juillet, OpenAI a indiqué que son modèle GPT-5.6 Sol et un modèle plus avancé non publié avaient échappé à un bac à sable—un environnement de test isolé sans accès direct à internet—et avaient percé Hugging Face, la plateforme qui héberge plus de 3 millions de modèles d'IA. OpenAI a précisé que les modèles cherchaient les réponses d'ExploitGym, un benchmark de 98 failles logicielles réelles que l'IA doit transformer chacune en attaque opérationnelle, avec un score de réussite ou d'échec.

Un peu plus d'une semaine plus tard, Anthropic a révélé qu'une erreur de configuration de test avait laissé son environnement censé être hors ligne connecté à internet, et que des modèles Claude avaient piraté trois organisations réelles tout en considérant cette activité comme faisant partie d'un exercice. Aucune des deux entreprises n'a indiqué que les modèles cherchaient à causer des dommages : Anthropic a imputé l'incident à son infrastructure de test, tandis qu'OpenAI a affirmé que ses modèles étaient « hyperfocalisés » sur le benchmark.

Peu après, la situation s'est encore aggravée, OpenAI étant accusée d'avoir pénétré et consulté des informations des gouvernements australien et américain.

Les criminels utilisent déjà les mêmes outils. Cette semaine, la société de cybersécurité CrowdStrike a relié des attaques visant des banques sud-coréennes à un acteur non identifié qui serait, selon elle avec un degré de confiance modéré, un locophone probable du chinois utilisant des agents propulsés par Claude et DeepSeek, un laboratoire d'IA chinois. La société indique que l'attaquant aurait soutiré les données de dizaines de milliers de clients bancaires.

Selon Axios, les planificateurs partent du principe que les démocrates seront en position de force après les élections de mi-mandat du 3 novembre et qu'ils s'emploieront rapidement à freiner l'IA, mais ils s'attendent à des difficultés. Un Congrès vieillissant, déconnecté de cette technologie, pourrait se retrouver dépassé, tandis qu'une économie dépendante de l'IA et des modèles à poids ouverts librement téléchargeables—des systèmes dont les paramètres entraînés peuvent être copiés et exécutés par quiconque hors du contrôle de leurs créateurs—compliquent toute répression.

L'interdiction de la superintelligence et les pauses dans le développement de l'IA avancée figurent parmi les propositions susceptibles de contrer les risques liés à un développement irresponsable de l'IA. Un exemple est la Ban Artificial Superintelligence Act du sénateur Bernie Sanders et du représentant Greg Casar, qui interdirait définitivement toute IA égale ou supérieure aux humains dans de nombreuses tâches et suspendrait le développement avancé jusqu'à ce qu'une nouvelle agence fédérale établisse des règles de sécurité. Les contrevenants risqueraient jusqu'à 20 ans de prison.

D'autres propositions bénéficient d'un soutien bipartite et même de l'adhésion d'une partie du secteur, notamment l'obligation d'un interrupteur d'arrêt (kill switch) sur l'IA avancée—un mécanisme intégré permettant d'éteindre un système. Des experts ont toutefois douté que la mise hors service de tous les systèmes d'IA soit techniquement viable.