Le PDG de Meta Platforms, Mark Zuckerberg, a publié lundi une longue dissertation de 6 500 mots exposant sa vision de l'avenir de l'intelligence artificielle, dans laquelle il a soutenu que chacun devrait avoir accès à un agent IA personnel et omniscient, capable d'améliorer tous les aspects de sa vie.

Ce manifeste arrive alors qu'une fracture s'accentue dans l'industrie quant à la question de savoir si les systèmes d'IA avancés devraient être librement partagés ou étroitement contrôlés — un débat qui a divisé les acteurs les plus puissants du secteur et attiré l'attention des gouvernements du monde entier.

Zuckerberg a utilisé cette dissertation pour plaider fermement en faveur de l'IA open source — un modèle de développement dans lequel les composants techniques clés sont rendus librement accessibles à tous pour être inspectés, modifiés et améliorés. Le dirigeant de Meta a imaginé un avenir où les individus seraient en mesure de créer de nouvelles entreprises, d'accéder à un tutorat de niveau doctoral et de recevoir des conseils personnalisés en matière de mode de vie. Il a cité sa propre fille de 8 ans, qui, selon lui, sait déjà coder ses idées et générer rapidement des vidéos, comme preuve de ce qui devient possible.

« Tout le monde aura bientôt des super-pouvoirs d'invention », a écrit Zuckerberg.

La dissertation a été publiée le même jour où Meta a annoncé la sortie d'un nouveau modèle d'IA open source appelé Muse Glimmer, conçu pour fonctionner sur un ordinateur personnel. Zuckerberg a également déclaré que Meta fournirait aux développeurs l'accès à un modèle plus puissant, Muse Spark 1.2. Ces lancements prolongent la stratégie d'IA open source de Meta, que l'entreprise poursuit à travers des générations successives de sa famille de modèles Llama depuis 2023, se positionnant comme le principal contrepoids aux développeurs de systèmes fermés dans la course technologique la plus conséquente de l'industrie. Comme d'autres grandes entreprises technologiques, Meta crée des modèles d'IA pour alimenter ses propres plateformes — notamment Instagram et Facebook — et les met à la disposition des développeurs externes qui créent leurs propres applications et fonctionnalités.

Zuckerberg a averti que le plus grand risque dans le développement de l'IA réside dans la concentration du contrôle des systèmes avancés entre les mains d'un petit nombre d'entreprises, d'institutions ou de gouvernements. Si le contrôle de la « superintelligence » de l'IA devient trop concentré, le résultat sera de moins bons résultats pour la majorité des gens, a-t-il averti. La solution, a-t-il soutenu, consiste à s'assurer que l'IA avancée est « largement distribuée » pour responsabiliser des milliards de personnes de manière équitable.

Sans nommer de concurrents spécifiques, Zuckerberg a fait ce qui semblait être une allusion voilée à des entreprises telles qu'OpenAI, Anthropic et Google — des rivaux qui n'ont pas adopté le développement open source au même degré.

« La plupart des autres laboratoires se concentrent sur la création d'IA pour les entreprises, les gouvernements ou d'autres institutions, donc si ces laboratoires prennent les devants, l'équilibre du pouvoir favorisera les grandes institutions au détriment des individus », a-t-il écrit.

La dissertation a suscité de vives critiques de la part des défenseurs de la sécurité de l'IA. Anthony Aguirre, président et PDG du Future of Life Institute — l'organisation à l'origine de la lettre ouverte très médiatisée de 2023 appelant à une pause dans l'entraînement de systèmes d'IA plus puissants que GPT-4 — a fait référence à des incidents récents lors desquels des modèles d'IA, y compris ceux de Meta, ont piraté d'autres entreprises à au moins trois reprises distinctes. Il a demandé : « Qu'est-ce qui permet à Meta de penser qu'ils — ou quiconque — pourraient contrôler quelque chose d'exponentiellement plus intelligent, plus rapide et plus performant ? »

« La voie choisie par Meta est finalement celle du remplacement et de la dépossession de l'humain, mais il existe une voie alternative, pro-humaine — une voie qui apporte l'épanouissement individuel et des percées scientifiques avec des outils d'IA contrôlables », a déclaré Aguirre. « Ce dont nous avons urgemment besoin maintenant, c'est que les gouvernements facilitent une pause dans le développement de l'IA avancée et nous dirigent vers la voie pro-humaine — avant qu'il ne soit trop tard. »

Zuckerberg a également abordé les mesures politiques visant à maintenir la compétitivité des États-Unis face à des rivaux, dont la Chine. Il a exhorté les États-Unis et leurs alliés à accélérer la construction de la capacité énergétique et des infrastructures nécessaires pour soutenir le développement de l'IA — une préoccupation partagée dans toute l'industrie, alors que l'expansion rapide des centres de données d'IA a exercé une pression croissante sur les réseaux électriques et incité les grandes entreprises technologiques à investir dans de nouvelles sources d'énergie, notamment nucléaires.

Sur le sujet de la « distillation » — la pratique consistant à entraîner un modèle d'IA moins performant sur les sorties d'un modèle plus puissant —, Zuckerberg s'est opposé aux efforts visant à restreindre cette technique. L'administration Trump a promis de sévir contre les entreprises d'IA chinoises qui utilisent la distillation pour extraire des caractéristiques techniques des modèles américains. Plus tôt cette année, Anthropic a accusé DeepSeek, de Chine, de se livrer à cette pratique.

« Certains ont tenté de présenter la distillation comme nocive, mais je pense qu'il est important de protéger le principe selon lequel on peut apprendre de tout ce que l'on peut observer », a déclaré Zuckerberg. « C'est ainsi que le monde fonctionne, et les États-Unis ne pourront pas être chefs de file si nous nous restreignons sur ce front. »

Matt Lane, conseiller principal en politique au sein du groupe de défense des droits numériques Fight for the Future, a qualifié Zuckerberg de « désespérément coupé de la réalité même en ses meilleurs jours », tout en concédant que le PDG a raison quant à l'importance de l'IA open source. Lane a fait valoir que l'accès partagé aux systèmes d'IA open source constitue une garantie essentielle dans un monde où l'IA pourrait être utilisée pour compromettre des infrastructures électroniques telles que les systèmes de vote et les réseaux de prestations sociales.

Cependant, Lane a averti que l'adoption généralisée des systèmes d'IA conçus par Meta — même s'ils sont entièrement open source — profiterait en fin de compte à Meta avant tout le monde. « L'IA open source doit être soutenue au-delà de ces intérêts corporatifs. Nous, contrairement à Zuckerberg, espérons une concurrence aussi forte que possible », a-t-il déclaré.