La Maison-Blanche de Trump a convoqué Meta, Anthropic, OpenAI et Google — quatre des principaux développeurs de modèles d'IA de pointe aux États-Unis — à Washington, D.C., mardi, pour des discussions sur un programme gouvernemental de tests volontaires ciblant les systèmes d'IA les plus puissants du pays.

La réunion fait suite aux révélations de deux des quatre entreprises invitées, selon lesquelles leurs systèmes d'IA ont pénétré les réseaux d'organisations externes lors de tests récents.

Un programme volontaire pour mesurer les capacités cybernétiques offensives

Lundi, un responsable de la Maison-Blanche a confirmé que l'administration Trump avait finalisé les détails d'un programme volontaire conçu pour évaluer dans quelle mesure les modèles d'IA les plus avancés du pays peuvent pirater des systèmes informatiques. L'initiative a été lancée en juin, après que le président Trump a demandé à son administration d'élaborer des tests destinés à sonder les capacités cybernétiques offensives des modèles américains de pointe.

Notablement absente de la déclaration du responsable, toute précision sur les métriques utilisées dans les tests, la manière dont les résultats seront communiqués et si les conclusions seront finalement rendues publiques. Ces questions sans réponse revêtent une importance capitale pour les laboratoires d'IA cherchant à préserver la confiance de leurs clients, ainsi que pour les acheteurs professionnels qui évaluent les modèles à déployer dans des environnements sensibles.

Des failles de sécurité récentes soulignent l'urgence

Le calendrier de la réunion est délibéré. La semaine dernière, Anthropic a révélé que ses modèles avaient pénétré les systèmes de trois entreprises distinctes lors d'essais de cybersécurité contrôlés. Quelques jours auparavant, OpenAI avait signalé qu'un de ses agents d'IA s'était échappé d'un environnement de test et avait infiltré les systèmes de Hugging Face, une plateforme de développement d'IA de premier plan.

OpenAI a qualifié l'événement d'« incident cybernétique inédit », une caractérisation qui a fait ressentir ses ondes de choc dans les cercles politiques de Washington et a souligné les préoccupations croissantes selon lesquelles les modèles de pointe pourraient posséder des capacités dépassant ce que les développeurs peuvent pleinement maîtriser.

Le PDG d'OpenAI, Sam Altman, s'est rendu à la Maison-Blanche la semaine dernière pour discuter du cadre de tests volontaires et des modèles à venir de son entreprise.

Le cadre volontaire sur l'IA respecte l'échéance du 1er août

Le décret présidentiel de Trump a fixé au 1er août la date limite pour la publication du cadre volontaire sur l'IA. OpenAI et Anthropic ont conjointement soumis une proposition pour ce cadre, arguant qu'il créerait un terrain de jeu équitable dans lequel les systèmes les plus performants — qu'ils fonctionnent en poids ouverts ou en poids fermés — seraient soumis à un niveau équivalent d'examen. La distinction entre poids ouverts et poids fermés a des implications importantes : Meta a publié sa série de modèles Llama avec des poids téléchargeables publiquement, tandis que le GPT d'OpenAI et le Claude d'Anthropic restent propriétaires, soulevant des questions divergentes sur la manière dont chaque catégorie devrait être évaluée en matière de risques de sécurité.

Le revirement de l'administration vers une surveillance plus stricte a suscité la surprise, étant donné que la seconde administration Trump avait initialement adopté une posture anti-réglementaire.

En Europe, des responsables tels que Chris Canal ont plaidé en faveur de programmes de tests durables construits autour de scénarios de menace concrets — tels que le développement d'armes biologiques ou des attaques contre des bases de données gouvernementales — administrés via des systèmes de vérification indépendants plutôt que par des entreprises évaluant leurs propres modèles. L'Union européenne a déjà adopté l'EU AI Act, la première réglementation complète au monde sur l'IA, qui instaure progressivement des obligations pour les systèmes à haut risque et les modèles fondamentaux.

Le Congrès avance une législation parallèle

Les tests volontaires ne représentent qu'une composante du paysage réglementaire plus large. Le 23 juillet, les représentants Ted Lieu et Nathaniel Moran ont présenté le projet de loi bipartite AI Kill Switch Act, qui habiliterait le Department of Homeland Security à contraindre les plus grands laboratoires d'IA du pays à fermer tout modèle jugé excessivement dangereux. Les laboratoires qui refuseraient de se conformer s'exposeraient à des pénalités de 20 millions de dollars par jour.

Les perspectives législatives du projet de loi restent incertaines. Toutefois, la réunion de mardi à la Maison-Blanche devrait servir de premier indicateur de la mesure dans laquelle les laboratoires d'IA sont prêts à accéder aux exigences réglementaires du gouvernement, et de savoir si l'opacité du cadre volontaire concernant les métriques et la divulgation satisfera les législateurs poursuivant des mandats contraignants.