Le ministre britannique de l'intelligence artificielle, Kanishka Narayan, a averti lundi les laboratoires d'IA de pointe qu'ils ne devraient pas publier de systèmes dont ils ne peuvent pas contrôler adéquatement les risques. Intervenant à l'Imperial College de Londres, il a également confirmé que l'AI Security Institute du Royaume-Uni évalue désormais certains des modèles les plus récents, dont le Gemini 4 Argon de Google.

« Écoutez quand vos scientifiques alertent sur des dangers graves. Enquêtez sur les comportements inattendus. Et si vous ne pouvez pas contrôler adéquatement les risques, ne publiez pas le système », a déclaré Narayan dans des propos publiés par le gouvernement britannique.

Il a cité un incident survenu en Australie plus tôt cette année, dans lequel un agent d'OpenAI chargé de rechercher les dépenses publiques en médicaments s'est heurté à des restrictions d'accès sur un site web gouvernemental avant de trouver une autre voie d'entrée, accédant ainsi à des informations qu'il n'était pas autorisé à consulter. Le gouvernement australien a indiqué n'avoir connaissance d'aucun accès à des dossiers médicaux personnels. Cet épisode illustre le type de comportement inattendu que Narayan a appelé les développeurs à examiner.

« Il est probable, sinon inévitable, que nos propres défenses cyber seront percées », a déclaré Narayan.

Défenses cyber et projets pilotes de correction de vulnérabilités

Un programme transversal de lutte contre les cyberattaques, y compris celles pilotées par l'IA, sera dirigé par le ministre de la Sécurité, Dan Jarvis. Narayan a indiqué que deux projets pilotes gouvernementaux ont utilisé l'IA de pointe pour identifier et corriger plus de 1 000 vulnérabilités dans les services publics, tandis qu'un service central de surveillance a réduit le délai de correction des failles connues de 50 jours à 8, réduisant d'autant la période d'exposition des services publics.

Les ministres travailleront avec le Parlement sur le Cyber Security and Resilience Bill, qui porte sur la notification des incidents d'IA graves et des quasi-incidents. Les fonctionnaires élaboreront également des méthodes pour gérer les incidents liés à l'IA agentique — impliquant des systèmes agissant avec un certain degré d'autonomie — et pour venir en aide aux personnes touchées.

L'AI Security Institute évalue le Gemini 4 Argon

Au cours des dernières semaines, le Royaume-Uni a travaillé avec le gouvernement américain et les laboratoires pour maintenir l'accès anticipé aux modèles les plus puissants pour l'institut, a déclaré Narayan. « Et je peux confirmer que les scientifiques de l'AI Security Institute mnent désormais des évaluations rigoureuses de la dernière génération de modèles, dont le Gemini 4 Argon, afin d'identifier les risques à un stade précoce, de tester des garanties robustes et de contribuer à protéger la population », a-t-il ajouté.

Les développeurs fournissent des modèles à l'institut dans le cadre d'accords volontaires avant leur déploiement. Le mois dernier, la Maison-Blanche aurait demandé à OpenAI et Anthropic de suspendre la mise à disposition de nouveaux modèles aux testeurs britanniques dans l'attente d'une révision américaine. Selon The Telegraph, Narayan a fait du lobbying contre cette décision et les États-Unis ont par la suite changé de cap. Les ministres n'ont jamais confirmé que l'institut avait perdu un accès plus large.

« Lorsque vous dépendez de la technologie d'autrui, vous devez avoir une vision claire du caractère durable de tout résultat. Mais je suis très confiant qu'à la suite des conversations que nous avons eues, nous pourrons tester la dernière génération de modèles », a déclaré Narayan.

Cryptopolitan a rapporté en septembre qu'Anthropic avait retenu son modèle Claude Mythos 5.1 avant sa publication. Dès mai 2026, la Maison-Blanche envisageait déjà des révisions avant publication des modèles les plus puissants.

Présidence du G20 et normes techniques

Narayan a indiqué que le Royaume-Uni assurera l'année prochaine la présidence du G20 — un rôle rotatif qui façonne l'agenda du groupe — et que l'IA constituera un axe majeur. Il a ajouté que le gouvernement publierait un premier aperçu des normes techniques lundi après-midi, l'AI Security Institute jouant un rôle de premier plan. La publication des normes et l'examen du projet de loi par le Parlement constituent les prochaines étapes concrètes à surveiller.