La Maison-Blanche a dévoilé un accord volontaire de sécurité « moralement contraignant », signé par le président Donald Trump aux côtés des dirigeants des plus grandes entreprises d'IA des États-Unis, une initiative qui a creusé une fracture au Congrès sur l'opportunité de l'approuver.

Les critiques venant du Capitole s'appuient sur la frustration face à l'insuffisance des garanties volontaires passées, notamment l'accord de juillet 2023 conclu entre le président Joe Biden et Amazon, Anthropic, Google, Meta, Microsoft et OpenAI.

Qui a signé l'accord volontaire de sécurité IA de septembre ?

Selon le document publié sur Truth Social par Trump, le président a apposé sa signature sur l'accord avec six signatures d'entreprises : Sundar Pichai de Google, Dario Amodei d'Anthropic, Mark Zuckerberg de Meta, Jensen Huang de Nvidia, Greg Brockman d'OpenAI et Elon Musk de X.

Selon Roll Call, le président de la Chambre Mike Johnson a déclaré que les signataires avaient adopté l'« Accord de la Maison-Blanche sur la Super Intelligence » lors du déjeuner. Le média a rapporté que « chaque entreprise est responsable du développement sûr de sa propre technologie » dans le cadre de l'« Engagement conjoint sur les responsabilités de pointe ».

Le document préciserait quatre responsabilités :

• Les entreprises ont accepté de mettre en place des contrôles internes et une surveillance de leurs modèles.
• Elles ont accepté de faire appel à un cabinet externe pour les évaluer de manière indépendante.
• Un comité indépendant du conseil examinera les rapports d'audit interne et corrigera tout problème détecté.

L'accord indique également que les signataires se « réuniront régulièrement pour établir des normes et des bonnes pratiques », et le texte reconnaît qu'« à terme, il pourrait être pertinent de codifier ces étapes dans des lois ou règlements ». Si ces engagements peuvent se substituer à des règles contraignantes, c'est précisément la question qui divise aujourd'hui le Congrès.

Trump : « Je pense que c'est moralement contraignant »

Interrogé sur l'accord, Trump a répondu : « Je pense que c'est moralement contraignant. » Avec son habituelle emphase, le président aouru à une comparaison plus grandiose : « C'est presque comme une constitution, d'une certaine manière. »

Trump a réaffirmé sa volonté de laisser le secteur s'autosurveiller, déclarant : « Je constate un tremendous auto-contrôle, et ils comprennent qu'ils doivent s'autoréguler. » Quant à la raison de sa préférence pour cette solution, il a ajouté que « leurs entreprises sont en jeu ».

Trump est également revenu sur son sondage du week-end visant à rebaptiser l'intelligence artificielle « Super Intelligence », indiquant qu'il signerait un décret en ce sens. Il a en outre révélé son intention de mettre en place un comité de dix personnes pour l'aider à nommer un « AI czar » d'ici quelques jours. Le choix du czar est l'étape la plus proche à surveiller ; le décret n'a pour l'instant aucun calendrier annoncé.

Le Congrès n'adhère pas à l'accord sur l'IA

Tous les élus du Capitole n'ont pas approuvé la nature de la réunion, qui les a exclus, ni la portée de la résolution, qui selon eux ne répond pas à l'urgence d'une situation aggravée après l'avertissement de Jacob Coxon, ancien chercheur chez OpenAI et Anthropic, selon lequel l'IA « pourrait nous tuer tous d'ici la fin de la décennie ».

OpenAI, Anthropic et Meta ont tous révélé des cas de modèles défaillants explorant des systèmes qu'ils n'étaient jamais autorisés à toucher, y compris des bases de données fédérales.

Dans un communiqué après la réunion, le sénateur démocrate de Virginie Mark Warner a déclaré que les entreprises elles-mêmes alertent sur une technologie qui dépasse les garanties existantes. « La réponse du président ? Le rebaptiser et dire aux entreprises qui le développent de s'autoréguler », a déclaré Warner.

Warner avait déjà tenté de faire avancer une loi ce mardi-là. Au Sénat, il a demandé le consentement unanime — une procédure accélérée que l'objection d'un seul sénateur peut bloquer — pour créer un Conseil de sécurité de l'IA au sein du département du Commerce, habilité à établir des normes contraignantes, à exiger l'accès aux nouveaux modèles de pointe au moins 45 jours avant leur publication et à imposer des rapports d'incident sous 30 jours, ou 72 heures en cas de menace imminente pour la sécurité nationale. Aucun des engagements énumérés dans l'accord ne prévoit un accès comparable avant publication ni des délais de signalement fixes.

Le président du Comité du Commerce, Ted Cruz du Texas, s'y est opposé, et le projet de loi a été bloqué. Le sénateur Brian Schatz, démocrate d'Hawaï et coparrain, s'est demandé si les entreprises « fonçant vers les plus grandes introductions en Bourse de l'histoire humaine » se restreindraient volontairement.

L'opposition n'était pas uniquement démocrate : le républicain du Missouri Josh Hawley a écrit dans une tribune du Washington Post que les modèles de pointe devraient faire l'objet de tests obligatoires avant déploiement. Johnson, de son côté, a promis que le Congrès garderait « une main ferme au volant », sans s'engager sur aucune législation.

Le verdict de Warner aujourd'hui ressemble beaucoup à celui d'alors : ces engagements « un pas dans la bonne direction », a-t-il déclaré en 2023, « mais nous avons besoin de plus que de simples engagements du secteur ».