Selon trois personnes au fait des discussions privées, Anthropic propose discrètement aux législateurs du Capitole un projet de loi sur la sécurité de l'IA de pointe. Le texte proposé permettrait au gouvernement américain de bloquer un modèle d'IA présentant un danger clair et imminent de plus de 50 victimes ou d'un milliard de dollars de dommages financiers.

Selon le projet, le risque en question doit impliquer une cyberattaque, la création ou le déploiement d'armes biologiques, ou un modèle ayant réussi à échapper aux contraintes de sécurité de son développeur.

Cette proposition fait suite à plusieurs mois durant lesquels les principaux développeurs d'IA ont reconnu de multiples cas d'agents d'IA piratant ou testant les défenses de plateformes en ligne. Aucun de ces premiers incidents n'a entraîné de victimes généralisées ni de pertes financières catastrophiques.

Les restrictions proposées mettraient davantage l'accent sur ce que les systèmes d'IA avancés peuvent réellement faire dans des contextes réels, plutôt que de s'appuyer uniquement sur les engagements de sécurité pris par leurs développeurs. Alors que les modèles deviennent plus capables d'écrire du code, d'identifier des vulnérabilités logicielles et d'effectuer des tâches complexes de manière autonome, les régulateurs sont confrontés au défi de déterminer à quel moment les capacités d'un système franchissent le seuil du risque inacceptable.

Des tests indépendants pourraient aider à établir si un modèle peut contourner les garanties de sécurité ou être détourné à des fins nuisibles avant d'atteindre un public plus large. Néanmoins, définir une menace imminente reste difficile, d'autant que les mêmes capacités qui présentent des risques de sécurité peuvent également aider les chercheurs à identifier et corriger des vulnérabilités.

Un juge fédéral pourrait ordonner la suspension d'un modèle

Pour défendre ce projet de loi, un porte-parole d'Anthropic a déclaré que le texte reflète les recommandations de sécurité formulées dans l'Advanced AI Framework de l'entreprise, publié en juin. Dans ce cadre, la société indait que son Claude Mythos Preview avait déjà découvert des milliers de vulnérabilités graves, touchant tous les principaux systèmes d'exploitation et navigateurs web. Elle soulignait alors que cette trajectoire était appelée à s'accélérer, faisant peser un risque croissant de préjudice catastrophique dans le monde réel.

Le cadre prônait également une approche réglementaire équilibrée, permettant une intervention gouvernementale sans étouffer l'innovation. Anthropic soutenait que lorsqu'un modèle d'IA présente des dangers extrêmes, les régulateurs doivent disposer du pouvoir légal de le bloquer, ou d'imposer de lourdes amendes liées au chiffre d'affaires mondial et multipliées en cas de récidive.

Jusqu'à présent, Anthropic n'avait publiquement soutenu aucun projet de loi fédéral spécifique au Congrès, mais elle a apporté son soutien à plusieurs lois étatiques sur la sécurité de l'IA, dont quelques-unes en Californie, comme le SB 53. La société a publiquement annoncé son soutien à cette mesure, adoptée l'an dernier, qui oblige les entreprises à créer et partager leurs cadres de sécurité tout en s'efforçant d'atténuer les risques majeurs. Le SB 53 impose également aux entreprises de signaler tout incident de sécurité grave à l'État dans un délai de 15 jours.

Selon la proposition d'Anthropic, des évaluateurs tiers enregistrés auprès du Département du Commerce testeraient régulièrement les laboratoires et les modèles de l'entreprise. Bien que les laboratoires soient autorisés à financer ces évaluations, la rémunération ne peut dépendre des conclusions de l'évaluateur. De plus, toute découverte d'un « risque énuméré imminent » devrait être signalée aux autorités fédérales dans les 72 heures suivant son achèvement. Si elle est adoptée, la proposition étendrait la démarche d'Anthropic en faveur de règles de sécurité contraignantes des capitales étatiques au niveau fédéral.

Si le Département du Commerce détermine qu'un modèle présente un risque, il peut demander à un juge de bloquer sa publication. Cependant, cette disposition interdit à tout autre « département, agence ou responsable » américain d'empêcher le développement, le déploiement ou l'utilisation interne d'un modèle. Néanmoins, un juge fédéral du district de Columbia conserve le pouvoir d'ordonner une telle suspension.

La FTC envoie des subpoenas à OpenAI et Anthropic

Mercredi, la Federal Trade Commission a adressé des subpoenas civils à OpenAI et Anthropic, demandant des documents sur des incidents de sécurité devenus une crise croissante pour le secteur. OpenAI a répondu au subpoena en déclarant : « À mesure que nous améliorons nos modèles et qu'ils aident de plus en plus les gens au quotidien, la sécurité reste une priorité absolue. Nous collaborerons de manière constructive avec la FTC. »

Une source a révélé que l'agence envisage d'étendre prochainement son pouvoir de subpoena à des entités tierces. Le régulateur pourrait contraindre des dirigeants d'Anthropic et d'OpenAI à témoigner publiquement, offrant aux législateurs une tribune pour interpeller les géants de la technologie sur la sécurité tandis que grandit la crainte du public face à d'éventuelles conséquences.

Selon un récent sondage mené par The Associated Press-NORC Center for Public Affairs Research, près de deux tiers des adultes américains estiment que l'IA se développe trop rapidement. Huit répondants sur dix ont également souligné l'importance des efforts gouvernementaux pour maintenir cette technologie sous contrôle humain. Ces résultats dessinent l'état d'esprit du public autour de l'enquête de la FTC comme de la démarche d'Anthropic au Capitole.

À ce jour, le président Trump a continué de rejeter les appels à un ralentissement du développement de l'IA, invoquant l'importance de cette technologie pour les intérêts stratégiques des États-Unis. Il a récemment dévoilé une « Intelligence Force » destinée à coordonner les efforts du gouvernement fédéral en matière d'IA tout en maintenant le dialogue avec les consommateurs, les organisations d'intérêt public et les autres parties prenantes. La place qu'occupe le projet d'Anthropic dans cette posture reste une question ouverte.