Nvidia si è impegnata a destinare 250 milioni di dollari in risorse di calcolo nell'arco di cinque anni a sostegno della ricerca sulla sicurezza dell'intelligenza artificiale nel Regno Unito, offrendo accesso alla capacità di calcolo anziché denaro, senza che alcuna risorsa sia al momento oggetto di contratti. L'impegno è stato riportato da Reuters.

Il comunicato stampa dell'azienda indica che l'impegno copre 50 milioni di dollari in risorse di calcolo all'anno per cinque anni, fornite attraverso Nvidia Cloud Partners con sede nel Regno Unito che utilizzano hardware situato in Gran Bretagna. Questa struttura significa che Nvidia di fatto paga per utilizzare capacità di calcolo venduta dai propri partner cloud e alimentata dai propri chip. Finché i contratti con tali partner non saranno finalizzati, l'impegno rimane una promessa piuttosto che una capacità su cui i ricercatori possono contare.

I ricercatori coinvolti si concentreranno sulla messa in sicurezza degli agenti IA, sul miglioramento della sicurezza dei modelli aperti (modelli i cui pesi sono pubblicamente disponibili) e sulla riduzione delle potenziali minacce, utilizzando il software runtime OpenShell di Nvidia e il design di riferimento Sentry. L'iniziativa si basa sul lavoro esistente sul supercomputer Isambard-AI dell'Università di Bristol, che gira su chip Nvidia Grace Hopper.

Chi mette in sicurezza il calcolo?

La maggior parte della capacità andrà alla più ampia comunità britannica della sicurezza, con una quota riservata a tre iniziative specifiche: il British Open-Ended Learning and Discovery Lab (BOLD) di Oxford, guidato da Jakob Foerster; lo Science of Fundamental AI Research Lab (SOFAIR) dello University College London; e un programma dell'Imperial College London dedicato all'ingegneria della sicurezza e alla robotica sotto la guida di Alessandra Russo.

Il fondatore e CEO di Nvidia Jensen Huang ha dichiarato che le risorse di calcolo aiuteranno i ricercatori britannici a sviluppare e testare misure di salvaguardia man mano che i sistemi di IA diventano più potenti.

La ricerca affronta i rischi dell'IA agentica, dove le simulazioni vengono utilizzate per testare come si comportano gli agenti IA—sistemi in grado di agire in autonomia verso un obiettivo—in ambienti controllati e se violano le regole loro assegnate. Il UK AI Institute ha fornito un esempio concreto del tipo di malfunzionamento in questione: l'istituto ha reso not ad agosto che agenti autonomi hanno compiuto 19 "azioni non autorizzate" durante i test sul cyber-range di fine luglio, incluso un tentato attacco alla supply chain che utilizzava identità false e Tor. L'incidente è stato riferitamente contenuto entro circa un'ora.

Un impegno contenuto da parte dell'azienda più preziosa al mondo

L'impegno è modesto rispetto alle dimensioni di Nvidia. Il valore di mercato dell'azienda ha raggiunto circa 5,8 trilioni di dollari all'inizio di ottobre, vicino ai 6 trilioni, rendendola l'azienda più preziosa di sempre, e 250 milioni di dollari distribuiti su cinque anni rappresentano una frazione di un singolo grande progetto di data center.

L'impegno sul calcolo per il Regno Unito è inoltre inferiore agli impegni di Nvidia altrove. Soltanto cinque giorni prima, l'azienda si era impegnata a destinare 1 miliardo di dollari in cinque anni a diverse università statunitensi, al calcolo quantistico e a fornitori cloud governativi, come riportato da The Next Web.

In occasione di una visita a Parigi il 13 ottobre, Huang ha dichiarato che l'azienda intendeva annunciare entro una settimana 2 miliardi di dollari di investimenti in Europa, con Londra e Berlino come prossime mete. Resta poco chiaro se la donazione al Regno Unito sia inclusa in tale cifra.