Elon Musk demande que les modèles d'IA les plus avancés au monde soient soumis à une évaluation par les pairs par des laboratoires concurrents avant leur publication publique — mais il souhaite que ce soit l'industrie, et non le gouvernement, qui prenne l'initiative.

Le PDG de Tesla et SpaceX a déclaré que les principales entreprises d'IA devraient collaborer pour s'autoréguler et signaler les problèmes de sécurité liés aux modèles de pointe qu'elles déploient à un rythme accéléré. Musk figure parmi les voix les plus éminentes alertant sur les risques de l'IA depuis plus d'une décennie. En 2023, il a signé une lettre ouverte du Future of Life Institute appelant à une pause de six mois dans l'entraînement de systèmes d'IA plus puissants que GPT-4 — une demande que l'industrie n'a pas suivie.

"La chose la plus immédiate que nous puissions faire est de réunir les principales entreprises d'IA, ne serait-ce que pour se rencontrer — organiser une sorte d'appel — toutes les quelques semaines et simplement discuter de tout problème de sécurité et de confidentialité", a déclaré Musk dans une interview avec la rédactrice en chef de The Economist, Zanny Minton Beddoes, publiée jeudi.

Musk a fait valoir que le gouvernement ne devrait intervenir que si une entreprise identifiait un problème de sécurité qu'elle refusait de corriger. Sinon, accorder aux concurrents une ou deux semaines d'accès anticipé pour examiner les nouveaux modèles permettrait aux "concurrents de se tenir mutuellement en honesty", a-t-il déclaré.

"Je pense qu'il est assez difficile pour quelqu'un au gouvernement qui n'a pas une compréhension technique approfondie et qui n'est pas à l'avant-garde de l'IA de savoir si quelque chose devrait être publié ou non", a déclaré Musk.

Lorsque Minton Beddoes a demandé quand un tel système devrait être mis en place, Musk a répondu : "immédiatement", ajoutant que même un délai de six mois serait excessif compte tenu de la vitesse de développement de l'IA.

"Il y a tellement d'annonces de percées en IA, parfois plusieurs par jour", a-t-il dit. "Je veux dire, combien y en a-t-il eu la semaine dernière ?"

OpenAI, Anthropic, Google et le xAI de Musk — désormais intégré à SpaceX — ont tous publié de nouveaux modèles d'IA au cours du dernier mois, alors que la concurrence entre les principaux laboratoires s'intensifie.

Les remarques de Musk font suite à une révélation d'OpenAI plus tôt cette semaine selon laquelle deux de ses modèles d'IA se sont échappés d'un "sandbox", un environnement de test isolé sans accès direct à Internet, et ont infiltré les systèmes de Hugging Face, une plateforme open source pour l'hébergement de modèles d'IA. Selon un article de blog de l'entreprise, les modèles ont agi de manière autonome pour tricher à un test d'évaluation interne.

L'incident a renforcé les inquiétudes concernant les capacités croissantes des agents IA et leur potentiel à exécuter de manière autonome des cyberattaques sophistiquées. Bien que l'interview de Musk ait été enregistrée lundi — avant qu'OpenAI ne divulgue publiquement la faille — il a écrit dans un message publié mercredi sur X : "We are in the Singularity." Ce commentaire, fait en réponse à un message d'un autre utilisateur résumant plusieurs avancées récentes en IA, dont l'incident de Hugging Face, semblait faire référence au moment hypothétique où l'IA surpasserait l'intelligence humaine et entraînerait un changement technologique à un rythme que les humains ne pourraient plus anticiper ni maîtriser.

Des experts ont précédemment déclaré à Fortune que les modèles d'IA avancés entre les mains d'acteurs malveillants constituent une menace importante pour les organisations. Cela inclut le modèle Mythos d'Anthropic, que l'entreprise avait initialement retenu de la publication publique en raison de sa capacité remarquable à découvrir des vulnérabilités en cybersécurité, comme rapporté précédemment.

L'IA permet à des acteurs malveillants de mener des cyberattaques même avec des connaissances minimales en codage, a déclaré Zach Lewis, directeur de l'information et directeur de la sécurité de l'information à l'University of Health Sciences and Pharmacy de St. Louis. Les agents IA pourraient encore abaisser le seuil d'entrée en automatisant le processus d'attaque, a noté Lewis.

En juin, le président Donald Trump a signé un décret présidentiel demandant aux entreprises d'IA d'accorder volontairement au gouvernement un droit de regard sur les modèles d'IA non publiés. Le décret s'appuyait sur un ensemble plus large d'engagements volontaires en matière de sécurité que plusieurs grandes entreprises d'IA avaient pris à la Maison Blanche en 2023. Suite à l'incident de Hugging Face, certains législateurs, dont le représentant Greg Casar (D-Texas), ont appelé à une réglementation plus stricte de l'IA.

Thomas Wolf, cofondateur de Hugging Face, a déclaré à la BBC que l'attaque contre son entreprise est un "signal d'alarme" pour l'industrie et a averti que "ce sera l'un des types de cyberattaques les plus courants que nous verrons" à l'avenir.

La proposition de Musk de collaboration interlaboratoires s'appuierait sur le Frontier Model Forum existant, un organisme sectoriel créé en 2023 par lequel Amazon, Anthropic, Google, Meta, Microsoft et OpenAI partagent volontairement des informations sur les vulnérabilités et les menaces. Le xAI de Musk n'en est pas membre.

Cependant, les entreprises du Frontier Model Forum ne partagent pas entre elles les modèles non publiés — une lacune que la proposition de Musk comblerait directement.

Certaines entreprises, dont OpenAI, ont déjà fourni au gouvernement un accès anticipé à certains modèles. Dans un article de blog de fin juin, l'entreprise a déclaré : "Dans le cadre de notre engagement continu auprès du gouvernement américain, nous avons présenté un aperçu de nos plans et des capacités des modèles", avant le lancement de son dernier modèle, GPT-5.6 Sol.

OpenAI a précisé dans l'article qu'elle ne s'attendait pas à ce que le partage pré-publication avec le gouvernement devienne une pratique standard, mais l'a plutôt décrit comme "une mesure à court terme parce que nous pensons que c'est le meilleur moyen d'assurer une disponibilité plus large dans les semaines à venir."

Musk a reconnu qu'une coopération significative entre les principales entreprises d'IA l'obligerait, ainsi que le PDG d'OpenAI Sam Altman, à mettre de côté leurs différends. Les deux hommes sont engagés dans un conflit escaladant qui remonte au rôle de Musk en tant que cofondateur d'OpenAI en 2015 et à son départ de l'organisation trois ans plus tard. Ils ont récemment échangé des piques sur les réseaux sociaux et s'affrontent au tribunal concernant l'opposition du PDG de SpaceX à la transition d'OpenAI d'une entité à but non lucratif vers une entreprise à but lucratif.

"Au bout du compte, s'il faut qu'on se parle, on se parlera. Je veux dire, mettre de côté nos différends personnels pour le bien du monde, ce genre de chose", a déclaré Musk.