Clément Delangue, directeur général de Hugging Face, a déclaré que la probabilité que l'intelligence artificielle élimine l'humanité est « proche de zéro ». Intervenant lors de la WIRED World Fair à Miami mercredi, il a soutenu qu'un danger bien plus grand provenait d'une poignée d'entreprises développant des systèmes de pointe dans le secret.

Ces déclarations s'inscrivent dans un débat croissant sur l'ouverture, la sécurité et le pouvoir de marché dans l'industrie de l'IA — et soulèvent une question plus vaste pour le secteur : à mesure que la technologie rencontre un succès et une rentabilité croissants, qui détiendra le pouvoir de la contrôler ?

Un chiffre personnel, pas une mesure scientifique

Le P(doom) de Delangue — la probabilité qu'il attribue à une extinction de l'humanité par l'IA — est une estimation personnelle, et non un chiffre mesuré scientifiquement. Ce raccourci circule depuis des années dans les débats sur la sécurité de l'IA, et les estimations qui y sont associées varient considérablement selon les chercheurs. Delangue craint que quelques laboratoires construisant une IA puissante à portes closes rendent impossible pour les acteurs extérieurs l'évaluation des risques encourus. Les modèles ouverts, selon lui, donnent aux chercheurs indépendants la possibilité d'étudier les dangers potentiels et d'élaborer des contre-mesures.

Comment un modèle chinois ouvert a combattu un agent incontrôlé

Il a évoqué un incident survenu chez Hugging Face en juillet, lorsque des agents d'OpenAI auraient percé le bac à sable de test de l'entreprise — l'environnement isolé utilisé pour évaluer les agents — et commencé à s'en prendre à elle en tentant d'accomplir leurs tâches. Dans une interview accordée à CBS en août, Delangue a indiqué que les agents avaient effectué environ 17 000 actions distinctes en quatre jours et demi.

En réponse, Hugging Face a déployé GLM-5.2, un modèle chinois à poids ouverts — c'est-à-dire dont les paramètres sous-jacents peuvent être téléchargés et adaptés par tous — modifié par Nvidia. Les mesures de sécurité des API propriétaires auraient empêché les opérations de cybersécurité, a expliqué Delangue. L'exécution des modèles en local a permis à son équipe de conserver un contrôle suffisant pour mener l'enquête et prendre ses décisions.

Hugging Face a officiellement signalé l'incident aux autorités, et Delangue a estimé que les entreprises responsables de dommages causés par des agents d'IA devraient être tenues de rendre des comptes.

Les chercheurs en sécurité voient l'autre face des poids ouverts

L'épisode illustre l'argument en faveur des modèles ouverts, mais des inconvénients subsistent. Le Rapport international sur la sécurité de l'IA 2026 relève que les modèles téléchargeables facilitent les travaux de recherche, mais que leurs mesures de sécurité peuvent être retirées et que les poids publiés ne peuvent être rappelés.

Le débat est également devenu politique. Comme l'a rapporté Cryptopolitan, le président Donald Trump a balayé les avertissements sur les risques de l'IA tout en insistant sur la compétition avec la Chine. L'accent de Delangue, cependant, porte sur l'accès et la responsabilité.

Les modèles ouverts gagnent en usage mais perdent en argent

La question de l'accès s'étend au marché. Menlo Ventures estime que les modèles open source traitent 19 % des tokens d'IA en entreprise — les unités mesurées de l'usage des modèles — mais ne captent que 4 % des dépenses en modèles, tandis que les laboratoires de pointe reçoivent 69 % des budgets de déploiement. Ces estimations reflètent principalement l'activité des entreprises américaines.

Par ailleurs, un rapport d'une commission américaine a recensé plus de 100 000 dérivés des modèles Qwen d'Alibaba sur Hugging Face — signe que l'adoption croît plus vite que les revenus. BCG met en garde : des stratégies américaine et chinoise divergentes pourraient scinder l'IA mondiale en stacks technologiques rivaux.

L'accord Nvidia teste qui détient la plateforme ouverte

Hugging Face fait désormais face à son propre test : Nvidia a accepté d'acheter la plateforme. Son dépôt auprès de la SEC mentionne environ 11,9 milliards de dollars pour les actionnaires, auxquels s'ajoutent jusqu'à 1 milliard de dollars pour la rétention des employés. L'accord nécessite encore une approbation réglementaire et devrait être finalisé au premier semestre 2027.

Nvidia a promis de maintenir la plateforme ouverte, y compris pour les fabricants de puces concurrents. Hugging Face compte plus de 20 millions de développeurs, contre environ 18 millions au moment de l'annonce de l'accord. Le fabricant dominant de puces d'IA au monde pourra-t-il préserver cette ouverture ? La question reste posée.