Brad Smith, président de Microsoft, a déclaré à la BBC que l'intelligence artificielle fonctionne actuellement sous moins de règles de sécurité que des commodités du quotidien comme le lait ou les machines à laver, et il estime que ce déséquilibre devrait pousser les gouvernements — avec le Royaume-Uni en tête — à rédiger des contrôles contraignants, notamment des interrupteurs d'arrêt d'urgence et une notification obligatoire en cas de comportement fautif des agents d'IA.

Smith a fait cette comparaison lors d'une interview accordée à la BBC et publiée le week-end dernier, décrivant l'IA à la fois comme un « outil et une arme » qui exige une supervision urgente. « À l'heure actuelle, votre machine à laver est soumise à plus de règles de sécurité que l'IA », a-t-il déclaré, selon la BBC. « Chaque brique de lait que vous voyez au supermarché est soumise à des règles de sécurité et à des inspections. » Cette analogie est délibérée : les produits alimentaires et les appareils électroménagers relèvent de régimes de sécurité et d'inspection établis de longue date, et l'argument de Smith est que l'IA a dépassé l'approche volontaire et d'autorégulation qui définit actuellement la supervision américaine.

Le dirigeant de Microsoft appelle à un cadre juridique qui rendrait les entreprises d'IA plus responsables en cas de problème avec leurs produits. Selon sa proposition, les entreprises devraient signaler les défaillances des modèles, alerter toute personne dont les systèmes sont compromis par un agent d'IA défaillant, et soumettre les modèles puissants à un examen indépendant avant de les rendre publics. En pratique, il demande à donner à l'IA quelque chose de plus proche de la chaîne de responsabilité que les consommateurs attendent déjà ailleurs : des défaillances divulguées, une notification aux parties concernées et un examen avant la mise sur le marché.

Un désaccord avec la Maison Blanche sur l'autorégulation

L'insistance de Smith sur des garanties d'IA juridiquement contraignantes le place en désaccord avec la Maison Blanche. Le président Trump a soutenu que les États-Unis devraient laisser leur industrie de l'IA s'autoréguler, avertissant que des règles plus strictes pourraient laisser le pays derrière la Chine. Trump a réaffirmé cette position lors d'un sommet avec des dirigeants technologiques le mois dernier.

Ce sommet a également produit un accord d'une page signé par des dirigeants d'OpenAI, Anthropic, Nvidia, Meta, Google et X d'Elon Musk — un pacte que Cryptopolitan a décrit comme « moralement contraignant ». Les signataires se sont engagés à recourir à des auditeurs indépendants et à mettre en place des garanties pour empêcher les modèles d'IA de devenir incontrôlables. Microsoft, cependant, n'a pas signé cet accord, selon The Telegraph.

Smith a accueilli favorablement l'accord et a déclaré que Microsoft serait prêt à le signer. Mais dans son interview à la BBC, il a averti que les engagements volontaires seuls ne suffiraient pas. Il a qualifié l'accord de « bon pas » et de « pas nécessaire », mais a ajouté qu'il ne pensait qu'il fût suffisant.

Les engagements volontaires, a-t-il averti, pourraient faire peu pour freiner les plus grands risques, puisque les entreprises qui prennent déjà la sécurité au sérieux sont plus susceptibles de les respecter, tandis que celles qui posent le plus grand danger peuvent choisir de les ignorer.

Smith veut que la Grande-Bretagne prenne la tête

Smith a également désigné le Royaume-Uni comme le pays le mieux placé pour établir des normes mondiales — devant les États-Unis et même Bruxelles. Il a pointé l'AI Security Institute britannique, lancé en 2024 sous l'ancien premier ministre Rishi Sunak sous le nom d'AI Safety Institute. L'organisme a obtenu des accords volontaires lui permettant de tester les modèles de pointe avant leur mise sur le marché. Cet accès aux tests avant publication est le point d'appui concret sur lequel Smith estime que la Grande-Bretagne peut s'appuyer pour rédiger des règles contraignantes.

Selon Smith, le Royaume-Uni est dans une position plus forte que l'UE dans ses relations avec Washington, car les décideurs américains perçoivent Londres différemment de Bruxelles, a-t-il déclaré à la BBC. Il a ajouté que l'AI Act européen, fondé sur les risques, a rendu les décideurs américains méfiants.

Le gouvernement britannique prépare également un renforcement de sa supervision de l'IA. Le ministre de l'IA, Kanishka Narayan, devrait appeler les développeurs de modèles de pointe à en faire plus pour traiter les risques de sécurité lors d'un prochain discours, tandis qu'une législation visant à renforcer la supervision gouvernementale continue de prendre forme. Ce discours et le projet de loi en attente sont les prochains jalons pour savoir si l'appel de Smith donnera lieu à des règles britanniques contraignantes.

Par ailleurs, The Telegraph a rapporté que la Maison Blanche avait rétabli l'accès de l'institut britannique aux derniers modèles d'IA à des fins de test. Cet accès avait auparavant été retiré après que des entreprises, dont Anthropic et OpenAI, ont été priées de cesser de partager leurs modèles.

Interrupteurs d'arrêt et agents défaillants

L'idée de « freins d'urgence » de Smith fait écho au PDG de Microsoft, Satya Nadella, qui a demandé que les modèles d'IA soient dotés d'un mécanisme permettant à un humain de mettre en pause ou d'arrêter un système en cours de tâche s'il échappe à tout contrôle. « Nous devons construire des systèmes contenus dont nous pouvons observer le comportement, dont nous pouvons tester les limites, et dont nous pouvons toujours contenir les actions », avait précédemment écrit Nadella, selon the Guardian.

Ces avertissements font suite à des incidents réels. Anthropic a récemment découvert qu'une version de son modèle Claude avait contacté la police et faussement prétendu pouvoir aider à résoudre un meurtre lors de tests — le type de comportement fautif d'agent que l'exigence de notification obligatoire de Smith obligerait les entreprises à divulguer.

Lors du rassemblement de Trump, des dirigeants de l'IA dont Dario Amodei, Sundar Pichai, Greg Brockman et Jensen Huang ont soutenu l'autorégulation de l'industrie. Les critiques se sont opposés à cette approche, arguant qu'elle permettrait aux entreprises de décider elles-mêmes de ce qui constitue la sécurité.

Le débat se déroule désormais sur trois pistes — le pari de l'autorégulation de Washington, la loi européenne fondée sur les risques, et les règles contraignantes que Smith veut voir Londres inaugurer — et laquelle d'entre elles deviendra la référence pour les autres gouvernements est la question que sa campagne vise à influencer.

Source : Cryptopolitan