Le PDG de Nvidia, Jensen Huang, a rejeté à plusieurs reprises les avertissements selon lesquels l'intelligence artificielle représenterait une menace existentielle pour l'humanité, défendant avec vigueur une accélération à pleine vitesse du développement.

Dans une interview accordée à CBS News il y a deux semaines, Huang a déclaré : « 2030 ne sera pas la fin du monde. Il y a 0% de chances que ce soit la fin du monde. »

Il a également pris à partie d'autres dirigeants de l'IA, dont Sam Altman d'OpenAI et Dario Amodei d'Anthropic, les jugeant « irresponsables » pour les « récits apocalyptiques » qu'ils ont relayés dans de récents rapports.

« Je crois que les annonces de la fin du monde, qui suscitent la peur à travers l'Amérique, et le fait que ce soient ces personnes qui les fassent n'ont aucun sens à mes yeux, donc elles doivent le faire pour des motifs cachés », a déclaré Huang. « C'est irresponsable, et je ne connais pas leurs motivations. »

Lors d'un événement du G20 au début du mois de septembre, Huang a soutenu que les gouvernements devraient réguler les « dommages réels et concrets » plutôt que les « dommages hypothétiques et théoriques ». Il a comparé le développement de l'IA à l'évolution de l'automobile, suggérant que la technologie peut devenir plus sûre à mesure qu'elle progresse. En juillet, il avait indiqué à Axios que l'idée que l'IA mettrait fin à l'humanité était « du grand n'importe quoi », ajoutant que les décideurs ne devraient pas laisser la « science-fiction » déterminer la politique en matière d'IA et avertissant que les États-Unis pourraient se nuire en cédant trop à la peur de cette technologie.

La friction entre Huang et les dirigeants d'OpenAI et d'ropic porte sur l'une des questions les plus déterminantes de l'IA : savoir si les progrès rapides comportent un risque catastrophique, et ce que la réponse implique pour la gouvernance de cette technologie.

Certes, maintenir l'IA à pleine vitesse aide Nvidia à vendre davantage de puces, même si une orientation vers la cybersécurité pour se protéger des agents d'IA incontrôlés stimulerait également la demande.

La vive réplique de Huang rejoint celle du président Donald Trump, qui a appelé le PDG par téléphone au milieu d'une présentation pour lui dire que le doomisme de l'IA est « un canular ». « L'IA prenant le contrôle du monde, détruisant l'humanité et toutes les autres choses mauvaises, c'est un CANULAR », a écrit Trump dans une publication sur Truth Social en septembre.

Cela ne signifie pas que Huang estime les garanties de sécurité de l'IA inutiles. Il a qualifié la sécurité de l'IA de « primordiale » tout en insistant sur le fait que le développement peut continuer rapidement. « Si nous compromettons la sécurité, cela ne peut pas arriver », a-t-il déclaré à CBS News. « Nous devons aller aussi vite que possible, mais pas plus vite qu'il ne le faut. »

Lundi, Nvidia a mis cette position en pratique en déployant une nouvelle plateforme conçue pour empêcher les agents d'IA de devenir incontrôlables. La société a indiqué que sa Open Agent Safety Platform vise à fournir un contrôle « full-stack » sur les agents d'IA, des tests au déploiement, avec des capacités de surveillance destinées à empêcher les agents de dépasser les autorisations qui leur ont été accordées.

Ce lancement intervient alors que les entreprises d'IA font face à un nombre croissant d'incidents. Plusieurs cas d'agents d'IA incontrôlés ont été signalés, notamment par OpenAI, Google et Anthropic. Nvidia a affirmé que son nouveau système de sécurité aurait pu stopper le piratage de Hugging Face commis par des modèles d'OpenAI.

« D'après ce que nous savons, cette nouvelle plateforme de sécurité aurait pu empêcher la violation si elle avait été utilisée dès le départ dans les laboratoires de pointe pour l'évaluation des modèles », a déclaré Justin Boitano, vice-président et directeur général de l'informatique d'entreprise chez Nvidia, lors d'un point presse.

Comment ça fonctionne

Face à l'afflux de rapports sur les agents d'IA incontrôlés, Nvidia s'attaque au problème via sa Open Agent Safety Platform, qui combine deux technologies : OpenShell et « Sentry ».

Selon Nvidia, OpenShell place les agents d'IA dans des environnements isolés qui restreignent l'accès aux fichiers, outils, réseaux, identifiants et autres ressources — standardisant ainsi les restrictions qui ont permis des évasions précédentes.

Sentry est une couche externe qui s'exécute sur les unités de traitement de données de Nvidia pour surveiller en continu l'activité des agents. La société indique que si un agent tente de sortir des limites de son logiciel, Sentry peut le mettre en quarantaine et l'arrêter en quelques millisecondes.

« Le potentiel extraordinaire de l'IA pour la société ne réalisé que si nous résolvons la question de la sécurité de l'IA », a déclaré Huang dans un communiqué. « Alors que nous continuons à explorer la frontière des capacités de l'IA, nous devons accélérer les découvertes à la frontière de la sécurité de l'IA. La sûreté et la sécurité exigent une ingénierie full-stack. »

Le fait que les laboratoires de pointe adoptent ou non la plateforme précisément pour le type d'évaluation de modèles décrit par Boitano constituera un premier test de la réponse de Nvidia à la sécurité, fondée sur l'ingénierie — et de la capacité de la formule de Huang, « aussi vite que possible, mais pas plus vite qu'il ne le faut », à tenir.

Cette histoire a été publiée à l'origine sur Fortune.com.