Les négociateurs du Sénat américain examinent une législation qui obligerait les développeurs des modèles d’intelligence artificielle les plus avancés à se prémunir contre les dommages catastrophiques et pourrait donner au gouvernement fédéral le pouvoir de bloquer les mises en circulation dangereuses, selon Reuters.

Pour les principales entreprises d’IA, la proposition ferait passer les normes de sécurité d’engagements largement volontaires à une obligation légale. Elle soulève également une question plus large : une réglementation plus stricte renforcerait-elle la confiance des consommateurs et des investisseurs, ou consoliderait-elle la position des entreprises disposant des ressources nécessaires pour s’y conformer ?

Des engagements volontaires à une « obligation de diligence »

La proposition établirait ce que Reuters a décrit comme une « obligation de diligence » pour les développeurs de modèles d’IA de pointe. Les mesures envisagées comprennent l’obligation pour les développeurs de concevoir des modèles qui réduisent les risques catastrophiques, la préservation du droit du gouvernement fédéral de bloquer les modèles dangereux, la possibilité pour les entreprises de contester les décisions gouvernementales devant les tribunaux, ainsi que la participation de laboratoires nationaux et d’autres partenaires gouvernementaux aux tests d’IA.

La législation pourrait primer sur certaines lois existantes des États couvrant les mêmes questions. Les entreprises américaines identifiées par Reuters comme développant des systèmes d’IA de pointe comprennent Google, par l’intermédiaire de sa maison mère Alphabet, Anthropic et OpenAI.

Les négociations impliquent le chef de la majorité au Sénat, John Thune, le président de la commission du Commerce, Ted Cruz, la sénatrice Amy Klobuchar et la sénatrice Maria Cantwell.

Klobuchar a déclaré à Reuters que son objectif était une « supervision gouvernementale des plus grands risques posés par les modèles d’IA ». Elle a indiqué que cette supervision devrait obliger les développeurs à travailler avec des experts gouvernementaux pour vérifier et tester les modèles avancés.

Cruz a présenté une proposition similaire axée sur certaines des conséquences potentielles les plus graves de l’IA de pointe. Dans un message publié sur X, Cruz a déclaré qu’il travaillait avec Klobuchar et Thune pour « traiter les risques catastrophiques liés aux menaces biologiques ou nucléaires ».

Ces préoccupations expliquent pourquoi les négociateurs se concentrent sur les modèles les plus capables plutôt que d’appliquer les mêmes exigences à l’ensemble du secteur de l’IA.

Une autre question porte sur le point de savoir si les règles fédérales devraient primer sur certaines restrictions au niveau des États. Cette approche est globalement cohérente avec le cadre législatif de l’administration Trump pour l’IA, qui estime qu’un ensemble fragmenté de lois étatiques pourrait entraver le développement des technologies d’IA aux États-Unis et appelle à un cadre national plus cohérent.

Pourquoi les législateurs ne considèrent plus les risques comme théoriques

Les législateurs réagissent non seulement à des scénarios hypothétiques, mais aussi à des incidents impliquant des agents d’IA agissant de manière autonome et accédant à des systèmes externes, ainsi qu’aux préoccupations soulevées par des chercheurs travaillant au sein de grandes entreprises d’IA.

L’IAPP a rapporté que les négociations avaient notamment été déclenchées par la démission de Jacob Coxon, ancien chercheur chez Anthropic, et par ses inquiétudes concernant une course au développement d’une IA capable de s’améliorer elle-même.

La pression augmente également au Capitole. Le sénateur Josh Hawley enquête sur le rôle d’OpenAI dans la cyberattaque contre Hugging Face survenue en juillet, tandis que le sénateur Bernie Sanders travaille sur un projet de loi visant à suspendre le développement de la superintelligence, selon l’IAPP.

OpenAI appelle également à l’adoption d’une législation fédérale contraignante. Dans un article de politique publique publié le 9 septembre, Chris Lehane, directeur des affaires mondiales de l’entreprise, a appelé à une « réglementation nationale obligatoire de la sécurité de l’IA fondée sur les capacités ». Cette position place une partie du secteur de l’IA et du Congrès du même côté d’un débat central : les protections volontaires restent-elles suffisantes ? L’article de politique publique d’OpenAI est disponible ici.

L’Europe réglemente déjà ses modèles les plus risqués

Les États-Unis ne s’aventureraient pas en territoire inconnu. Le règlement européen sur l’IA impose des responsabilités supplémentaires aux fournisseurs de modèles d’IA à usage général susceptibles de présenter des risques systémiques.

Ces responsabilités comprennent l’évaluation des modèles, la gestion des risques, la notification des incidents et les mesures de cybersécurité. Les modèles dépassant un seuil de puissance de calcul de 10^25 FLOP sont considérés comme potentiellement systémiques. La Commission européenne peut également classer comme systémique un modèle moins puissant en fonction d’autres critères, notamment ses capacités ou ses effets.

Les coûts de conformité pourraient favoriser les plus grands laboratoires

Les enjeux financiers sont importants. Goldman Sachs Research estime que les investissements mondiaux dans l’IA pourraient atteindre environ $1 trillion en 2026, dont $581 milliards aux États-Unis.

De nouvelles exigences en matière de tests, de droit et de documentation pourraient affecter les calendriers de lancement des modèles, les budgets consacrés aux infrastructures, les valorisations des entreprises et le calendrier des introductions en Bourse. Elles pourraient également favoriser les grandes entreprises si les sociétés plus petites ne sont pas en mesure d’absorber les coûts de conformité.

Cette tension est déjà visible sur les marchés de capitaux. Selon Cryptopolitan, David Sacks a demandé la suspension de l’introduction en Bourse d’Anthropic jusqu’à l’examen des allégations concernant la sécurité soulevées par Coxon. Les investisseurs d’Anthropic ont également discuté d’une valorisation d’environ $2 trillion, faisant de la sécurité des modèles d’IA de pointe une question qui concerne aussi bien les investisseurs que les régulateurs.

L’avenir du projet de loi reste incertain. Reuters a rapporté que la Chambre des représentants ne devrait siéger qu’une semaine avant les élections de mi-mandat du 3 novembre, tandis que les sénateurs devraient rester trois semaines. Même si les négociateurs parviennent à un accord, le nombre limité de jours législatifs restants pourrait devenir un obstacle majeur à l’adoption du texte. Les prochains éléments à surveiller seront notamment l’accord des négociateurs sur la portée de l’obligation, le pouvoir du gouvernement fédéral de bloquer les mises en circulation, le rôle des lois des États ainsi que les procédures de test et de recours avant la fin de la période législative restante.