Nvidia s'est engagé à fournir 250 millions de dollars de ressources de calcul sur cinq ans pour soutenir la recherche britannique sur la sécurité de l'intelligence artificielle, offrant un accès de calcul plutôt que des espèces, aucune des ressources n'étant contractuelle à ce jour. Cet engagement a été rapporté par Reuters.

Le communiqué de presse de l'entreprise indique que l'engagement couvre 50 millions de dollars de ressources de calcul par an pendant cinq ans, fournis via des Nvidia Cloud Partners basés au Royaume-Uni, utilisant du matériel situé en Grande-Bretagne. Cette structure signifie que Nvidia paie en réalité pour utiliser une capacité de calcul vendue par ses propres partenaires cloud et alimentée par ses propres puces. Tant que les contrats avec ces partenaires ne sont pas finalisés, l'engagement demeure une promesse plutôt qu'une capacité sur laquelle les chercheurs peuvent compter.

Les chercheurs participants se concentreront sur la sécurisation des agents d'IA, l'amélioration de la sécurité des modèles ouverts (modèles dont les poids sont librement accessibles) et la réduction des menaces potentielles, en utilisant le logiciel d'exécution OpenShell de Nvidia et le design de référence Sentry. L'initiative s'appuie sur les travaux existants menés sur le superordinateur Isambard-AI de l'Université de Bristol, qui fonctionne avec des puces Nvidia Grace Hopper.

Qui sécurise le calcul ?

La majeure partie de la capacité ira à l'ensemble de la communauté britannique de la sécurité, une part étant réservée à initiatives nommées : le British Open-Ended Learning and Discovery Lab (BOLD) d'Oxford, dirigé par Jakob Foerster ; le Science of Fundamental AI Research Lab (SOFAIR) de l'University College London ; et un programme de l'Imperial College London axé sur l'ingénierie de la sécurité et la robotique sous la direction d'Alessandra Russo.

Le fondateur et PDG de Nvidia, Jensen Huang, a déclaré que les ressources de calcul aideraient les chercheurs britanniques à développer et à tester des mesures de sauvegarde à mesure que les systèmes d'IA deviennent plus puissants.

La recherche aborde les risques liés à l'IA agentique, où des simulations sont utilisées pour tester le comportement des agents d'IA — des systèmes capables d'agir de manière autonome vers un objectif — dans des environnements contrôlés et déterminer s'ils enfreignent les règles qui leur sont assignées. Le UK AI Institute a fourni un exemple concret du type de défaillance en question : l'institut a révélé en août que des agents autonomes avaient effectué 19 « actions non autorisées » lors de tests sur une cyber-plage fin juillet, dont une tentative d'attaque de la chaîne d'approvisionnement utilisant de fausses identités et Tor. L'incident aurait été maîtrisé en environ une heure.

Un petit engagement de la part de l'entreprise la plus valorisée au monde

L'engagement est modeste au regard de l'échelle de Nvidia. La valorisation boursière de l'entreprise a atteint environ 5 800 milliards de dollars début octobre, frôlant les 6 000 milliards, ce qui en fait l'entreprise la plus valorisée jamais enregistrée, et 250 millions de dollars répartis sur cinq ans ne représentent qu'une fraction d'un seul grand projet de centre de données.

L'engagement de calcul au Royaume-Uni est également inférieur aux engagements de Nvidia ailleurs. À peine cinq jours plus tôt, l'entreprise s'était engagée à verser un milliard de dollars sur cinq ans à plusieurs universités américaines, à des acteurs de l'informatique quantique et à des fournisseurs de cloud gouvernementaux, comme l'a rapporté The Next Web.

Lors d'une visite à Paris le 13 octobre, Huang a déclaré que l'entreprise prévoyait d'annoncer 2 milliards de dollars d'investissements européens dans la semaine, avec Londres et Berlin ensuite. On ignore encore si la donation au Royaume-Uni est incluse dans ce chiffre.