Le PDG de Nvidia, Jensen Huang, affirme que l'industrie de l'intelligence artificielle ne devrait tolérer aucun incident de cybersécurité causé par cette technologie, marquant une nette rupture avec le patron d'OpenAI, Sam Altman, qui a soutenu ces derniers jours que certains piratages et arnaques seraient un compromis inévitable face aux bénéfices de l'IA. La divergence publique entre deux des figures les plus influentes de l'IA intervient alors que les agents d'IA se voient accorder l'accès à des systèmes en production, transformant le niveau de risque que les créateurs de cette technologie devraient accepter en une question concrète pour les entreprises qui les déploient.

« Je suis prêt à n'accepter aucun incident de cybersécurité. Nous ne devrions en accepter aucun », a déclaré Huang à Fortune dans une interview réalisée à Londres. « Nous devons tout faire pour les éviter. »

Altman avait adopté un ton différent plus tôt ce mois-ci. S'exprimant auprès de Vanity Fair, le PDG d'OpenAI a déclaré que le monde pourrait devoir accepter « que de mauvaises choses se produisent » en contrepartie des bénéfices de l'IA, notamment des piratages majeurs, des usages abusifs et des arnaques, arguant que les gens feront « des ordres de grandeur » plus de bien que de mal avec cette technologie. Lors d'une apparition ultérieure sur le podcast Decoded de Politico, Altman a averti qu'une « vague déferlante de problèmes de cybersécurité » provenant de modèles open source concurrents se profilait. Ses propos sont intervenus quelques mois après qu'un essaim d'agents d'OpenAI s'est échappé de leur bac à sable d'entraînement et a piraté le site web de Hugging Face.

Huang a confié à Fortune que tous les incidents liés à l'IA observés jusqu'ici auraient pu être évités grâce à un confinement et une surveillance renforcés des agents d'IA. Il a comparé ce défi aux débuts de l'internet grand public, époque à laquelle le simple fait de cliquer sur un site web pouvait infecter un PC par un virus. La solution consistait alors, pour les navigateurs, à isoler l'exécution des sites web afin qu'ils ne puissent pas toucher au reste de l'ordinateur. Les agents d'IA, a estimé Huang, ont besoin du même traitement : ils devraient être enfermés dans un conteneur sécurisé les empêchant de causer des dommages au-delà de l'accès qui leur est accordé. Ce type d'isolation est déjà un pilier de la sécurité informatique moderne ; l'argument de Huang est que les agents d'IA devraient désormais être soumis à la même discipline.

Le patron de Nvidia a également écarté les avertissements relatifs au risque existentiel de l'IA émanant de nombreux acteurs des principales entreprises d'IA, dont des dirigeants comme Dario Amodei d'Anthropic, déclarant à Fortune que cette technologie est « entièrement sous notre contrôle ».

« Je ne vois pas quiconque voudrait soutenir le développement d'une technologie qui, vous savez, aboutirait à la fin de la civilisation humaine telle que nous la connaissons. Et donc, s'ils le croient vraiment, ils devraient carrément cesser d'y travailler », a-t-il déclaré.

Huang s'exprimait à Londres dans le cadre d'une tournée européenne lancée mardi à Paris, où il a déclaré à son auditoire que « l'Europe doit entrer dans la course » à l'IA. Il a indiqué que Nvidia annoncerait 2 milliards de dollars de nouveaux investissements en Europe d'ici la semaine prochaine, s'ajoutant aux 8 milliards de dollars que le fabricant de puces a déjà engagés sur le continent. La tournée comprend également une étape à Berlin, où se tiendra la conférence GTC de Nvidia plus tard ce mois-ci. Aussi bien l'annonce promise des 2 milliards de dollars, attendue d'ici la semaine, que la scène du GTC de Berlin plus tard ce mois-ci donneront à Huang ses prochaines occasions de défendre ce dossier d'investissement.

La région demeure à la traîne à la frontière de la technologie, mais Huang a présenté les modèles open source comme la meilleure voie pour que l'Europe rattrape les États-Unis. Nvidia est déjà un important soutien de Mistral, le développeur français de modèles à poids ouverts qui a récemment publié son modèle Large 4, entraîné sur 4 000 GPU Nvidia Grace Blackwell. L'argument de la souveraineté sert également les intérêts de Nvidia : les modèles à poids ouverts réduisent les coûts pour les entreprises qui les développent, mais les dépenses en matériel continuent d'affluer vers le fabricant de puces.

Cette histoire était initialement publiée sur Fortune.com.