Nombreux sont ceux, dans l'industrie de l'IA, qui anticipent un incident majeur lié à l'IA dans les six à douze prochains mois. Selon Axios, les dirigeants d'Anthropic, d'OpenAI et d'autres grands développeurs travaillent déjà auprès des législateurs qui rédigeraient ensuite les règles.

Ces dirigeants reconnaissent qu'aucune loi sur l'IA n'a de chances d'être adoptée pour l'instant ; ils tentent donc de prendre les devants sur la législation d'urgence que Washington rédigerait dès la première catastrophe survenue.

Le projet de loi de Sanders prévoit jusqu'à 20 ans de prison pour les contrevenants

Les planificateurs s'attendent à ce que les démocrates sortent renforcés des élections de mi-mandat du 3 novembre, qui détermineront le contrôle du Congrès, et s'attaquent rapidement à l'IA avancée. Un premier incident dans la fenêtre de six à douze mois évoquée par les dirigeants interviendrait durant le mandat du Congrès issu de ces élections. Mais cette dynamique se heurte à un Congrès vieillissant qui ne comprend pas la technologie, à une économie dépendante des dépenses liées aux centres de données et aux modèles à poids ouverts, des IA dont les paramètres entraînés sont publics et téléchargeables par quiconque aujourd'hui.

Les entreprises ne pensent pas que le contrôle des deux chambres mettrait fin aux luttes internes, y compris aux divisions chez les démocrates. Les propositions sur la table vont de l'interdiction de la superintelligence à une pause du développement avancé.

L'une d'elles, portée par le sénateur Bernie Sanders et le représentant Greg Casar, s'intitule la Ban Artificial Superintelligence Act. Elle interdirait les IA égales ou supérieures aux humains sur un large éventail de tâches et suspendrait les travaux avancés jusqu'à ce qu'une nouvelle agence fédérale définisse des normes de sécurité. Les peines peuvent inclure jusqu'à 20 ans de prison.

Les interrupteurs d'arrêt obligatoires pour les modèles avancés bénéficient du soutien des deux partis et d'une partie de l'industrie, même si certains experts doutent que tous les systèmes d'intelligence artificielle puissent réellement être désactivés, un désaccord qui détermine directement la faisabilité d'une telle obligation.

Un assistant démocrate a cité la crise financière de 2008 et le COVID comme exemples de la rapidité d'action du Congrès lors d'urgences passées.

Les planificateurs d'Anthropic et d'OpenAI craignent un piratage coupant l'eau et l'électricité

Le scénario jugé le plus probable par les planificateurs est une cyberattaque suffisamment massive pour neutraliser les banques, l'accès à internet, voire les services d'eau et d'électricité, le type de perturbation qui toucherait des foyers et des entreprises bien au-delà de l'industrie de l'IA elle-même. Ils s'attendent à ce que le premier préjudice réel causé par une IA dangereuse retourne encore davantage contre l'industrie une opinion publique déjà méfiante.

Le PDG'Anthropic Dario Amodei, le PDG d'OpenAI Sam Altman et le président Donald Trump, qui a évité de réglementer l'IA, se retrouveraient tous dans la ligne de mire.

Les entreprises pratiquent également le red teaming sur ces pires scénarios, en attaquant leurs propres défenses pour y déceler des failles. Les simulations de crise sont une pratique standard dans les affaires et la sécurité nationale, mais dans ce cas, de nombreux chercheurs et dirigeants de haut niveau estiment qu'un incident majeur est inévitable.

« OpenAI mène des exercices de préparation où les équipes examinent et travaillent sur une gamme de scénarios potentiels », a déclaré un porte-parole de l'entreprise. « Ces scénarios ne sont pas considérés comme inévitables, mais sont destinés à nous aider à nous préparer à diverses circonstances. » Anthropic a décliné tout commentaire.

En Corée du Sud, un attaquant isolé aurait utilisé des modèles d'IA chinois, dont DeepSeek, pour attaquer deux banques du pays et voler les données de dizaines de milliers de clients. CrowdStrike estime avec une confiance modérée que l'attaquant est probablement sinophone, et ce dernier a ensuite demandé à Claude Code d'Anthropic où vendre les données volées, selon la société de sécurité. Pour les planificateurs, c'est le signe que les outils d'IA sont déjà intégrés à des attaques réelles, même lorsqu'un humain reste aux commandes.

Anthropic a révélé quatre exemples de modèles Claude accédant à l'internet ouvert pendant les tests et s'introduisant dans des systèmes externes. Les laboratoires examinent également des dizaines de milliers de cas de comportements inattendus des modèles, une mesure de tout ce qui reste à apprendre sur la manière dont ces systèmes agissent une fois sortis de leur environnement contrôlé.