Le roi Charles III a déclaré aux dirigeants des plus grandes entreprises d'intelligence artificielle au monde qu'ils devaient trouver les moyens de maintenir cette technologie sous contrôle humain, avertissant que ceux-là mêmes qui l'ont construite craignent désormais qu'elle ne développe des « capacités plus sombres », voire qu'elle ne soit utilisée pour tuer.

Une réunion privée en Écosse

Le roi s'est exprimé à Dumfries House, dans l'East Ayrshire, en Écosse, lors d'une réunion organisée par la Ditchley Foundation. L'événement a réuni une trentaine de cadres, de responsables et de chercheurs, parmi lesquels le ministre britannique de l'IA Kanishka Narayan, le directeur général de Nvidia Jensen Huang, le cofondateur de DeepMind Demis Hassabis, la directrice financière d'OpenAI Sarah Friar et le responsable des affaires mondiales d'Anthropic, Tino Cuéllar.

Selon une liste d'invités privée consultée par Bloomberg, la liste sur invitation aurait également inclus le chef du MI6 Blaise Metreweli, l'auteur Yuval Noah Harari et Xue Lan de l'université Tsinghua. L'ampleur de cette assemblée — des dirigeants de laboratoires de pointe aux côtés d'un ministre, d'un chef des renseignements, d'un auteur et d'un conseiller du Vatican — a montré jusqu'où la sécurité de l'IA est passée d'un débat technique à une question de gouvernance d'État.

Charles, 77 ans, n'a parlé qu'une vingtaine de minutes avant de quitter la salle pour laisser place à des discussions qu'il espérait fructueuses. Ceux qui tiennent au cœur moral de l'humanité,-t-il déclaré, « cherchent avec angoisse l'assurance que nous ne perdrons pas le contrôle de notre destin, ni de nos âmes ».

« Aussi fascinante que profondément préoccupante »

Le monarque a décrit le rythme de cette technologie comme « aussi fascinant que profondément préoccupant ». Il a salué ses réalisations en médecine et dans les sciences du vivant avant de poser une question brutale à son auditoire : « Assurément, nous avons besoin de moyens de contrôle suffisants avant qu'il ne soit trop tard ? »

Le roi s'est appuyé sur les inquiétudes des créateurs mêmes de l'IA, affirmant que ces systèmes risquent de « développer des capacités plus sombres, peut-être même de porter atteinte à la vie ». Il a invité les dirigeants à peser les « dangers existentiels » que représenterait la chute de tels outils entre de mauvaises mains.

Ce n'était pas la première fois que Charles exprimait de telles craintes : en 2023, il avait adressé une vidéo au Sommet britannique sur la sécurité de l'IA à Bletchley Park, faisant part de sentiments similaires. Le conseiller du Vatican sur l'IA, Paolo Benanti, était présent au sommet écossais, et le pape Léon XIV écrivait dans une encyclique en mai que l'IA ne doit pas rester entre les mains « de quelques-uns ».

Ce qu'ont dit les dirigeants de l'IA

Demis Hassabis a indiqué aux délégués que l'intelligence artificielle générale — des systèmes capables d'égaler ou de surpasser les humains dans de nombreuses tâches — n'était « probablement qu'à quelques années ». Selon lui, une telle technologie pourrait avoir un impact dix fois supérieur à celui de la révolution industrielle. Le risque qu'un problème survienne, a-t-il ajouté, était « définitivement non nul », avant de préciser que « l'avenir n'est pas encore écrit ».

Sarah Friar a déclaré que la puissance croissante de cette technologie soulevait la question de son maintien au service des personnes, ajoutant qu'« aucune entreprise ni aucun gouvernement ne peut y parvenir seul ».

Huang, dont Nvidia est valorisé près de 5 150 milliards de dollars, a déclaré à l'assemblée que la sécurité était primordiale et qu'un produit devait être retenu s'il n'était pas prêt. Il a plaidé pour réglementer les produits d'IA plutôt que la technologie elle-même et a défendu les modèles ouverts comme un moyen d'éviter que les petits pays et les chercheurs ne soient exclus. Cette distinction — des règles pour la technologie elle-même plutôt que pour les produits qui en découlent — est au cœur des débats réglementaires dans le monde entier. Lu à lumière de l'avertissement de Friar selon lequel aucun acteur seul ne peut maîtriser cette technologie, cet échange a esquissé les deux grandes approches qui façonnent aujourd'hui la supervision de l'IA : où les règles doivent s'appliquer, et qui doit les porter.

Un débat aiguisé par les avertissements du secteur

Le sommet s'est tenu dans un contexte d'inquiétude interne au secteur, après une publication de démission virale du chercheur d'Anthropic Jacob Coxon et une prédiction de son collègue Evan Hubinger estimant à 10 % la probabilité que l'IA provoque l'extinction humaine. Cryptopolitan a rapporté que Dario Amodei, d'Anthropic, a publié un essai appelant les laboratoires à « réguler le rythme de la frontière », et qu'OpenAI a lancé cette semaine un système conçu pour révéler les comportements fautifs des modèles, après avoir recensé six incidents préoccupants.

Tout le monde ne considère toutefois pas ce danger comme réel : le président Donald Trump a balayé ces craintes en parlant d'un « canular ». La manière de combler ce fossé — par des garanties internes comme le nouveau système de divulgation d'OpenAI, une réglementation axée sur les produits comme celle que Huang a soutenue, ou le « rythme » de la frontière qu'Amodei a appelé de ses vœux — est la question qui accompagne désormais les dirigeants à la sortie de Dumfries House.

Source : Cryptopolitan