Pourquoi l’IA est confrontée à un choix difficile : nationalisation ou décentralisation

Le 12 septembre, le PDG d’Anthropic, Dario Amodei, a appelé à des limites coordonnées au développement de l’IA de pointe et présenté un plan en trois étapes. Anthropic commencerait par inviter des évaluateurs externes au sein de l’entreprise, en leur accordant un accès largement comparable à celui dont disposent ses équipes internes chargées des risques.

L’équipe d’examen proposée recevrait du matériel appartenant à l’entreprise, un accès à ses locaux et la possibilité de s’entretenir avec ses employés. Son contrat autoriserait la publication des principales conclusions sans qu’Anthropic puisse contrôler ces conclusions, sous réserve de contraintes juridiques, de sécurité, de confidentialité et commerciales définies. Les évaluateurs externes pourraient ensuite déterminer si les engagements d’Anthropic en matière de sécurité influencent effectivement les décisions de formation et de déploiement.

Cependant, l’accès à un seul laboratoire ne peut pas, à lui seul, ralentir un environnement concurrentiel. Anthropic pourrait ouvrir ses systèmes à l’examen tandis que ses concurrents et les gouvernements continueraient d’accélérer leurs efforts. La deuxième étape d’Amodei appelle donc à une réglementation et à une coordination pilotée par les pouvoirs publics couvrant une masse critique de développeurs américains d’IA de pointe. Sa troisième étape vise des accords vérifiables entre États, tout en permettant aux démocraties de conserver une marge stratégique suffisante par rapport à la Chine pour réguler le rythme du développement.

Le débat sur la nationalisation et la décentralisation réunit trois formes distinctes de pouvoir. La propriété publique détermine qui reçoit les gains économiques et peut influencer les décisions des entreprises. L’accès indépendant détermine qui peut examiner le développement de l’IA de pointe. Un arrêt juridiquement contraignant, en revanche, limite directement la vitesse à laquelle un système couvert peut progresser.

La structure de gouvernance existante d’Anthropic donne déjà à ses administrateurs la possibilité de prendre en compte autre chose que le rendement des actionnaires. L’entreprise fonctionne comme une Public Benefit Corporation, et le droit du Delaware impose à ses administrateurs de mettre en balance les intérêts pécuniaires des actionnaires, les intérêts des personnes matériellement affectées par l’activité et l’objectif d’intérêt public défini par l’entreprise. Le Long-Term Benefit Trust d’Anthropic dispose également de pouvoirs dans la sélection du conseil d’administration destinés à soutenir la mission de l’entreprise.

Une charte d’intérêt public peut autoriser des décisions axées sur la sécurité au sein d’Anthropic, mais elle ne peut pas s’imposer à un concurrent qui refuse le même compromis. La proposition d’Amodei entend combler cette lacune au moyen de règles communes et d’une vérification internationale, plutôt qu’en transférant la propriété de l’entreprise.

La propriété et le contrôle sont deux leviers différents

Une proposition présentée en juin 2026 par le sénateur Bernie Sanders illustre une forme possible de nationalisation partielle. Son American AI Sovereign Wealth Fund acquerrait une participation publique de 50 % dans les principales entreprises américaines d’IA, une commission indépendante exerçant les droits de vote associés. La mesure reste une proposition et n’est pas devenue une loi.

Une participation publique pourrait réorienter une partie des gains du secteur et donner à la commission une influence sur les décisions des entreprises. Elle ne définirait toutefois pas, à elle seule, des seuils de capacité, une vérification externe ou des ordres d’arrêt exécutoires. Ces mécanismes nécessiteraient des règles juridiques distinctes.

Un article juridique publié en août 2026 par Yonathan Arbel, Simon Goldstein et Peter Salib distingue les revendications économiques du contrôle des décisions que les règles existantes n’avaient pas anticipées. Les auteurs proposent un pouvoir gouvernemental étroit, discrétionnaire et temporaire permettant d’interrompre la formation ou le déploiement de systèmes d’IA de pointe lorsqu’un risque catastrophique ou ce qu’ils appellent un pouvoir d’entreprise « dur » est en jeu. Pour les monopoles, les inégalités et autres préjudices, ils privilégient la réglementation ou la fiscalité conventionnelles.

Un ordre d’arrêt agirait plus directement sur la décision concernant le rythme du développement qu’une participation publique. L’État n’aurait pas besoin de posséder chaque modèle ni d’exploiter chaque laboratoire avant de suspendre une formation ou un déploiement couvert. Pour qu’une telle autorité soit démocratiquement légitime, elle devrait reposer sur des critères légaux clairs, des compétences techniques, un contrôle indépendant et des limites au pouvoir discrétionnaire.

Le contrôle gouvernemental crée également son propre risque de concentration. Placer tous les laboratoires d’IA de pointe sous propriété publique pourrait réunir au sein de la même institution le développement des modèles et la décision de l’interrompre. Un pouvoir d’arrêt encadré laisserait les entreprises fonctionner dans le secteur privé tout en réservant une intervention d’urgence aux risques extrêmes définis.

Les modèles à poids ouverts vont dans la direction opposée en élargissant l’accès. Les chercheurs peuvent examiner et adapter ces systèmes sans dépendre d’un petit groupe de gardiens d’accès issus des entreprises. En 2024, la National Telecommunications and Information Administration des États-Unis a conclu que les éléments disponibles ne justifiaient pas de restrictions générales sur les poids de modèles largement accessibles.

Les capacités de pointe rendent l’application des règles plus difficile. La Commission européenne impose aux fournisseurs de modèles à usage général présentant un risque systémique d’évaluer et d’atténuer les risques, de signaler les incidents graves et de maintenir la cybersécurité, y compris lorsqu’un modèle est open source. La Commission a averti que l’atténuation des risques pouvait devenir plus difficile après la publication ouverte d’un modèle avancé.

La publication ouverte peut donc élargir l’examen externe tout en compliquant l’application ultérieure des règles. La réplication entre juridictions rend plus difficile l’application cohérente des mesures d’atténuation. L’audit distribué donne à davantage d’institutions la possibilité de contester un régulateur ou une entreprise capturés, tandis que la distribution sans restriction des poids de modèles de pointe peut affaiblir les points de contrôle nécessaires à une suspension légale.

Le frein public nécessite une supervision pluraliste

La Californie et l’Union européenne montrent comment des règles publiques peuvent encadrer des développeurs d’IA détenus par des intérêts privés. Le SB 53 de Californie, promulgué en septembre 2025, impose aux grands développeurs d’IA de pointe de publier des cadres de sécurité, crée un canal de signalement des incidents de sécurité critiques potentiels et protège les lanceurs d’alerte. L’UE impose des obligations de gestion des risques aux fournisseurs de modèles présentant un risque systémique, y compris les modèles ouverts.

Les évaluateurs proposés par Amodei bénéficieraient d’un accès plus approfondi afin de vérifier si des obligations comparables influencent les décisions internes des entreprises. Un pouvoir d’arrêt étroit et temporaire donnerait aux autorités publiques une possibilité d’intervention si un système couvert franchissait un seuil de risque défini par la loi.

Dans cette structure hybride, les gouvernements établiraient des règles contraignantes pour les développeurs présentant une importance systémique, les évaluateurs externes vérifieraient leur respect et les autorités publiques pourraient suspendre certaines opérations de formation ou de déploiement. Les chercheurs, les lanceurs d’alerte et les régulateurs de plusieurs juridictions conserveraient des voies distinctes pour contester les éléments disponibles.

Le mécanisme d’intervention devrait reposer sur des critères liés à des capacités démontrées ou à des défaillances de sécurité, prévoir un contrôle par une entité extérieure au bureau qui l’invoque et fixer explicitement les règles d’expiration et de renouvellement. Les évaluateurs devraient être libres de publier des conclusions défavorables, les suppressions étant limitées aux impératifs légitimes de nature juridique, sécuritaire ou liée à la confidentialité, ainsi qu’à des besoins commerciaux strictement délimités. Ces garanties réduiraient le risque qu’une intervention temporaire de sécurité se transforme en contrôle politique permanent de la recherche sur les modèles à usage général.

Le test pratique de ce modèle consisterait à déterminer si ces règles s’appliquent à suffisamment de développeurs pour empêcher que l’activité se déplace simplement en dehors du groupe couvert, tout en préservant un accès indépendant aux éléments de preuve. La portée des systèmes couverts, l’autorité des évaluateurs et la compétence de toute autorité d’arrêt constitueraient donc des questions centrales de mise en œuvre, plutôt que des détails que la propriété seule pourrait résoudre.

Le développement privé pourrait se poursuivre dans un cadre réglementaire commun tant que les systèmes de pointe resteraient identifiables et que des points de contrôle exécutoires demeureraient disponibles. Des institutions indépendantes examineraient le respect des règles et révéleraient toute capture par les entreprises ou les autorités de régulation.

Une participation publique pourrait redistribuer les richesses générées par l’IA et l’influence dans les conseils d’administration, mais la propriété ne préciserait pas à quel moment la formation doit s’arrêter. La distribution ouverte pourrait élargir l’accès et l’examen, mais elle ne pourrait pas fournir de règle d’arrêt exécutoire une fois les poids de modèles de pointe diffusés.

Un rythme de développement crédible exigerait donc que chaque développeur d’IA de pointe couvert soit soumis à la même limite publique. La légitimité démocratique nécessiterait que des évaluateurs indépendants, des chercheurs, des lanceurs d’alerte et des régulateurs examinent les éléments disponibles et puissent contester à la fois la limite fixée et tout ordre d’arrêt.

Source : CryptoNewsNet. Référence originale : CryptoSlate