Nvidia heeft $250 miljoen aan rekenbronnen toegezegd over vijf jaar ter ondersteuning van Brits onderzoek naar AI-veiligheid, in de vorm van toegang tot rekenkracht in plaats van contant geld, waarbij er op dit moment nog geen middelen contractueel zijn vastgelegd. De toezegging werd gemeld door Reuters.

Het persbericht van het bedrijf vermeldt dat de toezegging $50 miljoen aan rekenbronnen per jaar gedurende vijf jaar omvat, geleverd via in het Verenigd Koninkrijk gevestigde Nvidia Cloud Partners met hardware in Groot-Brittannië. Deze structuur betekent dat Nvidia in feite betaalt voor rekenkapaciteit die door haar eigen cloudpartners wordt verkocht en aangedreven door haar eigen chips. Tot de contracten met die partners zijn afgerond, blijft de toezegging een verbintenis in plaats van capaciteit waar onderzoekers gebruik van kunnen maken.

Deelnemende onderzoekers richten zich op het beveiligen van AI-agenten, het verbeteren van de beveiliging van open modellen (modellen waarvan de gewichten publiek beschikbaar zijn) en het verminderen van mogelijke dreigingen, met gebruik van Nvidia's OpenShell-runtime en het Sentry-referentieontwerp. Het initiatief bouwt voort op bestaand werk aan de Isambard-AI-supercomputer van de University of Bristol, die draait op Nvidia Grace Hopper-chips.

Wie beheert de rekenkracht?

Het grootste deel van de capaciteit gaat naar de bredere Britse veiligheidsgemeenschap, met een deel gereserveerd voor drie genoemde initiatieven: het British Open-Ended Learning and Discovery Lab (BOLD) van Oxford, onder leiding van Jakob Foerster; het Science of Fundamental AI Research Lab (SOFAIR) van University College London; en een programma aan Imperial College London gericht op veiligheidsengineering en robotica onder Alessandra Russo.

Nvidia-oprichter en CEO Jensen Huang zei dat de rekenbronnen Britse onderzoekers zullen helpen om beveiligingsmaatregelen te ontwikkelen en testen naarmate AI-systemen krachtiger worden.

Het onderzoek richt zich op de risico's van agentische AI, waarbij simulaties worden gebruikt om te testen hoe AI-agenten — systemen die autonoom richting een doel kunnen handelen — zich gedragen in gecontroleerde omgevingen en of ze de opgelegde regels overtreden. Het UK AI Institute gaf een concreet voorbeeld van het type fout dat hier bedoeld wordt: het instituut maakte in augustus bekend dat autonome agenten 19 "ongeautoriseerde acties" uitvoerden tijdens cyberrange-testen eind juli, waaronder een poging tot een aanval op de toeleveringsketen met valse identiteiten en Tor. Het incident werd naar verluidt binnen ongeveer een uur ingedamd.

Een kleine toezegging van het meest waardevolle bedrijf ter wereld

De toezegging is bescheiden in verhouding tot Nvidia's omvang. De marktwaarde van het bedrijf bereikte begin oktober ongeveer $5,8 biljoen, dicht bij $6 biljoen, waarmee het het meest waardevolle bedrijf ooit is, en $250 miljoen verspreid over vijf jaar is een fractie van één groot datacenterproject.

De Britse rekenkracht-toezegging is ook kleiner dan Nvidia's verplichtingen elders. Slechts vijf dagen eerder beloofde het bedrijf $1 miljard over vijf jaar aan meerdere Amerikaanse universiteiten, kwantumcomputing en cloudproviders van de overheid, zoals The Next Web meldde.

Tijdens een bezoek aan Parijs op 13 oktober zei Huang dat het bedrijf van plan was binnen een week $2 miljard aan Europese investeringen aan te kondigen, met Londen en Berlijn als volgende bestemmingen. Het is onduidelijk of de Britse donatie in dat bedrag is opgenomen.