La démission d’un chercheur d’une des entreprises d’intelligence artificielle les plus renommées au monde, suivie d’avertissements selon lesquels cette technologie pourrait anéantir l’humanité en l’espace d’une décennie, semble avoir accéléré l’action du Congrès en matière de sécurité de l’IA.

La démission de Jacob Coxon d’Anthropic, le 8 septembre 2026, a donné un nouvel élan législatif à l’instauration de règles fédérales contraignantes, après des années de publications universitaires et de conférences n’ayant produit que peu de résultats concrets. Plus de 20 membres du Congrès ont publiquement appelé à un renforcement de la supervision dans les jours qui ont suivi. Parallèlement, un groupe bipartite de sénateurs fait avancer une proposition de loi qui imposerait une « obligation de diligence » légale aux développeurs de modèles d’IA puissants. Le texte ferait passer des mesures de sécurité essentielles d’engagements volontaires des entreprises à des obligations encadrées par la loi.

Le projet de loi et ses soutiens

Les sénateurs Amy Klobuchar, John Thune et Ted Cruz dirigent cette initiative. Leur proposition transformerait les engagements volontaires pris par les entreprises d’IA en exigences légales exécutoires.

Les principales dispositions du texte imposeraient aux systèmes d’IA avancés de se soumettre à des tests de sécurité avant leur mise en circulation. Elles rendraient également obligatoires des audits indépendants réalisés par des tiers ainsi que des rapports standardisés de la part des développeurs. En outre, la proposition donnerait au gouvernement le pouvoir d’intervenir et de bloquer la mise en circulation de modèles d’IA considérés comme dangereux. Ces dispositions feraient des tests, de l’examen externe et de la divulgation des informations des conditions essentielles à la mise en circulation des systèmes les plus puissants.

Selon les règles proposées, les entreprises développant des modèles d’IA de pointe seraient soumises à une obligation formelle de diligence. Elles pourraient faire face à des conséquences juridiques si leurs systèmes causaient des dommages et qu’elles n’avaient pas pris de précautions raisonnables.

OpenAI s’est publiquement prononcée en faveur de normes nationales de sécurité obligatoires et de protocoles de test rigoureux. Cette position est notable, car l’entreprise serait directement soumise aux exigences proposées.

Les préoccupations au cœur du débat

Evan Hubinger, un autre chercheur d’Anthropic, a publiquement estimé à plus de 10 % la probabilité qu’un événement d’extinction provoqué par l’IA survienne au cours de la prochaine décennie.

Anthropic a également publié un rapport sur les menaces qui remet en question la sécurité de certains de ses modèles d’IA les plus récents, notamment en raison de leur potentiel à contribuer au développement d’armes biologiques.

Les obstacles législatifs

Plusieurs parlementaires ont averti qu’il serait difficile de rédiger des règles techniquement solides pour une technologie qui évolue plus rapidement que le Congrès ne peut programmer d’auditions. Les élections de mi-mandat de novembre ajoutent une difficulté supplémentaire. Certains membres pourraient hésiter à voter sur un cadre réglementaire techniquement complexe alors qu’ils mènent campagne pour leur réélection.

La prochaine étape du débat portera donc sur la capacité des parlementaires à définir des normes applicables en matière de tests, d’audits, de rapports et d’intervention avant que le calendrier électoral ne limite leur marge d’action. Tant que ces détails ne seront pas réglés, la proposition restera une initiative visant à instaurer des exigences fédérales de sécurité exécutoires, plutôt qu’un cadre réglementaire opérationnel.

Source : CryptoBriefing