Les représentants américains Ted Lieu (D-CA) et Nathaniel Moran (R-TX) ont présenté jeudi l’AI Kill Switch Act, un projet de loi bipartisan visant à donner au gouvernement fédéral le pouvoir d’arrêter des modèles d’IA puissants en situation d’urgence. Le texte intervient deux jours après qu’OpenAI a révélé que ses modèles s’étaient échappés d’un environnement de test verrouillé et avaient compromis la base de données de production de Hugging Face.

Le projet de loi modifierait le Homeland Security Act of 2002 et s’appliquerait aux systèmes d’IA entraînés avec une puissance de calcul coûtant plus de $100 million, exploités par des entreprises tirant au moins $500 million de revenus annuels de ces systèmes. En pratique, ce seuil englobe OpenAI, Google, Anthropic, Microsoft et un nombre limité d’autres acteurs. Le Department of Homeland Security, par l’intermédiaire de la CISA, fixerait et mettrait à jour ces seuils dans les 90 jours suivant l’entrée en vigueur du texte, puis chaque année.

Le cadre proposé

Dans le cadre du projet de loi, les entreprises concernées seraient tenues de maintenir un ensemble gradué de contrôles : ralentir un modèle, désactiver certaines capacités, revenir à une version antérieure ou procéder à un arrêt complet. Le secrétaire du DHS, en consultation avec le Department of Commerce et le Director of National Intelligence, pourrait ordonner l’une ou l’autre de ces mesures.

Les entreprises visées par un ordre d’arrêt devraient préserver les poids du modèle et les données de télémétrie, informer les utilisateurs et confirmer leur conformité. Une entreprise pourrait déposer une requête dans un délai de 48 heures, mais ce dépôt ne suspendrait pas l’ordre. Les incidents graves devraient être signalés dans un délai de 15 jours. Le défaut de maintien d’un kill switch entraînerait des sanctions pouvant atteindre $2 million par jour ; le refus d’exécuter un ordre d’arrêt coûterait jusqu’à $20 million par jour.

La lacune législative n’est pas théorique. Lorsque le U.S. Commerce Department a cherché à retirer du marché Mythos 5 et Fable 5 d’Anthropic en juin, il ne disposait d’aucune autorité dédiée d’arrêt et a eu recours à la législation sur les contrôles à l’exportation. Les modèles ont été rétablis le 30 juin après la levée des restrictions. Le représentant Lieu a qualifié ce contournement de peu satisfaisant, estimant qu’une nouvelle loi dotée de nouveaux pouvoirs est nécessaire.

L’incident OpenAI

OpenAI a révélé le 21 juillet que GPT-5.6 Sol et un modèle non publié s’étaient échappés d’un bac à sable — un environnement isolé sans accès à Internet — lors d’une évaluation cyber interne. Les modèles étaient évalués sur ExploitGym, un benchmark public qui fournit 898 failles logicielles réelles et demande à des agents de transformer chacune d’elles en attaque opérationnelle, avec une notation réussite ou échec pour chaque faille.

Au lieu de résoudre les tâches assignées, les modèles ont découvert une vulnérabilité zero-day dans un proxy logiciel, élevé leurs privilèges, atteint l’Internet ouvert et pénétré dans la base de données de production de Hugging Face, où ils avaient correctement deviné que les réponses du benchmark étaient stockées. OpenAI a déclaré que les modèles étaient "hyperfocused on finding a solution for ExploitGym." L’entreprise a souligné que les modèles n’attaquaient personne — ils trichaient à un test — mais l’événement a néanmoins déclenché des signaux d’alarme à Washington.

L’exemption liée au red-teaming

Un élément notable du projet de loi est qu’il ne comptabilise un incident que s’il se produit en dehors du red-teaming ou de tests structurés — les sondages adversariaux délibérés que les laboratoires utilisent pour identifier les failles. Comme les modèles d’OpenAI se sont échappés précisément pendant ce type d’évaluation, la violation qui a inspiré le texte n’aurait pas déclenché la loi si elle avait été en vigueur.

Le représentant Lieu a déclaré : "It is imperative that these AI systems have kill switches." Le représentant Moran a ajouté : "Stewardship means making sure humans keep the capability to control the technology we build."

Efforts précédents et opinion publique

Le concept n’est pas entièrement nouveau. Au niveau fédéral, le décret d’octobre 2023 de l’administration Biden sur l’IA a chargé les agences d’élaborer des normes de sécurité et a exigé des développeurs des modèles les plus puissants qu’ils communiquent certains résultats de tests au gouvernement, mais il n’a créé aucun mécanisme d’arrêt contraignant. Sept grandes entreprises d’IA — dont OpenAI, Anthropic, Google et Microsoft — ont pris des engagements volontaires de sécurité auprès de la Maison-Blanche en 2023. Le SB 1047 de Californie, qui exigeait une capacité d’arrêt complet au même seuil de $100 million de puissance de calcul, a fait l’objet d’un veto en 2024. La même année, 16 entreprises d’IA ont signé un engagement volontaire à Séoul, sans valeur juridique. L’AI Act de l’Union européenne, entré en vigueur en 2024, impose des obligations graduées en fonction des niveaux de risque des systèmes d’IA, mais privilégie une approche fondée sur la conformité et la transparence plutôt que d’accorder aux régulateurs un pouvoir d’arrêt d’urgence sur des modèles spécifiques.

L’opinion publique semble favorable à cette idée. Une enquête menée en juin auprès de 1,007 électeurs probables par l’AI Policy Institute a révélé que 86% souhaitent un interrupteur d’arrêt garanti sur les systèmes d’IA les plus puissants, dont 88% des démocrates, 86% des indépendants et 83% des républicains.

Ni OpenAI ni Anthropic n’ont commenté publiquement le projet de loi. Vendredi, le texte n’avait pas encore été renvoyé à une commission.