Bill Gates a averti que les entreprises d'intelligence artificielle ne devraient pas être laissées libres de se réguler elles-mêmes, exhortant les législateurs de Washington à établir des règles de sécurité formelles pour ce secteur en pleine croissance.

Le cofondateur de Microsoft a exposé sa position dans une interview accordée à NBC News, publiée le 25 septembre, deux jours avant la diffusion de l'intégralité de l'entretien dans « Meet the Press ». Son appel à une supervision gouvernementale intervient à un moment charnière : Goldman Sachs prévoit que l'investissement mondial dans l'IA dépassera 1 000 milliards de dollars en 2026. Dans ce contexte, les nouvelles exigences de sécurité pourraient avoir des conséquences importantes pour les développeurs qui construisent les systèmes d'IA, les investisseurs qui les financent et les entreprises qui s'efforcent de mettre en œuvre les systèmes de sécurité nécessaires à l'application des nouvelles règles.

« Personne ne pense que l'autorégulation suffit »

Interrogé par la présentatrice Kristen Welker sur la nécessité pour le Congrès d'agir, Gates a répondu : « Absolument ».

« Personne ne pense que l'autorégulation suffit », a déclaré Gates. Selon lui, les législateurs et les autorités chargées de l'application des lois devraient préciser comment les entreprises d'IA surveillent les risques et quels garde-fous elles doivent mettre en place. Il a qualifié les obligations qui en résultent pour les développeurs de « petites charges administratives », plutôt que d'un frein au progrès.

Son inquiétude va bien au-delà des abus habituels. S'exprimant sur NBC, Gates a déclaré que l'IA est « assurément assez puissante pour entraîner des événements qui, vous savez, causent un milliard de morts », en particulier si des systèmes avancés tombent entre les mains de personnes mal intentionnées.

Les dirigeants du secteur restent divisés sur l'étendue que devraient avoir ces garde-fous. Le PDG d'Anthropic, Dario Amodei, a soulevé l'idée d'un « rythme contrôlé, voire d'une « pause » » comme forme la plus extrême de ralentissement collectif. Le PDG d'OpenAI, Sam Altman, a exprimé une préoccupation similaire, estimant que « ce rythme vaudra largement ce coût » et que la pression consistant à garder une longueur d'avance sur les concurrents ne devrait pas servir d'excuse pour agir de manière imprudente.

Le PDG de Meta, Mark Zuckerberg, a pris la position oppos. Dans une interview accordée à NBC News, il a déclaré : « Je ne pense pas que nous ayons besoin d'une forme de coordination à l'échelle de l'industrie. » Zuckerberg privilégie une approche dans laquelle les laboratoires individuels ne ralentissent que s'ils estiment eux-mêmes être confrontés à des risques pour la sécurité. Cet échange met en évidence un désaccord plus large au sommet de l'industrie sur la question de savoir si la gouvernance de l'IA doit être coordonnée à l'échelle du secteur ou laissée aux entreprises individuelles. Le débat n'est pas seulement philosophique : toute règle américaine contraignante s'appliquerait à l'ensemble de l'industrie, quelle que soit la position de chaque laboratoire.

Gates veut gérer les risques, pas arrêter le développement

Gates ne demande pas au secteur technologique d'arrêter le développement des systèmes d'IA. Dans un essai publié sur son blog Gates Notes en août, il a écrit que l'intelligence artificielle « sera soit le plus grand égalisateur jamais inventé, soit la pire source d'injustice ».

Il a ajouté qu'il approuverait probablement un plan crédible de ralentissement mondial coordonné du développement de l'IA, tout en doutant qu'un tel plan puisse s'avérer efficace, compte tenu des forces économiques et politiques qui favorisent la poursuite du développement.

Sa position ne consiste donc pas tant à arrêter le développement qu'à s'y préparer : préparer les entreprises, les gouvernements et les individus à une technologie qui trouve déjà des applications dans des domaines tels que la médecine, le droit, les logiciels et le service client.

Un marché de 1 000 milliards de dollars qui attend les règles

Le débat sur les garde-fous se déroule alors que les capitaux se déversent dans l'IA, ce qui augmente les enjeux de toute nouvelle régulation. Goldman Sachs s'attend à ce que l'investissement mondial dans l'IA dépasse 1 000 milliards de dollars en 2026, dont environ 581 milliards aux États-Unis, tandis que l'investissement cumulé depuis 2022 pourrait approcher 1 800 milliards de dollars d'ici la fin de l'année.

Pourtant, les bénéfices ne sont pas partagés équitablement. Les données de Microsoft sur la diffusion de l'IA montrent un fossé croissant entre le Nord et le Sud mondiaux, tandis que l'OCDE souligne que les capacités en matière d'IA restent limitées à une poignée de pays et d'entreprises.

Ce déséquilibre rend la régulation encore plus difficile à équilibrer. Des protections renforcées pourraient réduire les risques, mais pour les petits laboratoires et les pays moins riches, le coût supplémentaire de la conformité pourrait s'avérer très difficile à supporter.

Une mosaïque réglementaire se dessine déjà

Un ensemble croissant de preuves soutient la nécessité d'une supervision plus stricte. Le Rapport international sur la sécurité de l'IA 2026, rédigé sous la direction du lauréat du prix Turing Yoshua Bengio et produit par plus de 100 experts du domaine, décrit les dangers existants et les menaces futures potentielles posées par les capacités croissantes des systèmes d'IA.

Les gouvernements, quant à eux, élaborent déjà des règles autour de ces risques. Selon TRM Labs, une nouvelle « mosaïque » mondiale de régulation de l'IA émerge, les pays adoptant des approches différentes en matière de gouvernance, de mise en œuvre et de responsabilité.

L'Union européenne a poursuivi ces objectifs de manière plus agressive que la plupart des autres juridictions. En vertu de l'AI Act de l'UE, les fournisseurs de modèles d'IA à usage général doivent se conformer à des obligations strictes couvrant la documentation, le droit d'auteur et la transparence sur les données d'entraînement. Les modèles utilisant plus de 10^25 FLOP — opérations en virgule flottante, une mesure de la puissance de calcul utilisée pour entraîner un modèle — sont considérés comme présentant des risques systémiques, ce qui déclenche des exigences supplémentaires en matière d'évaluation des modèles, de gestion des risques, de signalement des incidents et de cybersécurité.

Les dépenses de conformité augmentent parallèlement à l'élaboration des règles. Selon Gartner, les dépenses des organisations consacrées à la sécurisation de l'IA augmenteront de 68,7 % pour atteindre près de 4,8 milliards de dollars d'ici 2027, avec des projections proches de 7,7 milliards de dollars en 2028.

Washington semble également évoluer vers un cadre réglementaire plus solide. À ce jour, les États-Unis se sont largement appuyés sur des engagements volontaires pris par des entreprises individuelles plutôt que sur un cadre fédéral contraignant comparable à celui de l'UE. Comme rapporté par Cryptopolitan, les négociateurs du Sénat étudient une initiative bipartite visant à établir une « obligation de diligence » pour les développeurs d'IA, qui pourrait permettre au gouvernement d'empêcher la mise à disposition de modèles dangereux. Si cette mesure est approuvée, elle ferait passer les garde-fous que Gates réclame du domaine des engagements volontaires à celui des responsabilités juridiquement contraignantes. Ces discussions en restent à un stade exploratoire, laissant la portée, les modalités et le calendrier de tout cadre américain contraignant comme des questions ouvertes.