Nvidia zobowiązała się przekazać 250 milionów dolarów w zasobach obliczeniowych przez pięć lat na wsparcie brytyjskich badań nad bezpieczeństwem sztucznej inteligencji, oferując dostęp do mocy obliczeniowej zamiast gotówki, przy czym żadne z zasobów nie zostały na ten moment objęte kontraktem. O zobowiązaniu poinformował Reuters.

Zgodnie z komunikatem prasowym firmy zobowiązanie obejmuje 50 milionów dolarów w zasobach obliczeniowych rocznie przez pięć lat, zapewnianych za pośrednictwem działających w Wielkiej Brytanii Nvidia Cloud Partners, z wykorzystaniem sprzętu zlokalizowanego w Brytanii. Taka struktura oznacza, że Nvidia w efekcie płaci za korzystanie z mocy obliczeniowej sprzedawanej przez własnych partnerów chmurowych i zasilanej własnymi układami. Dopóki kontrakty z tymi partnerami nie zostaną sfinalizowane, zobowiązanie pozostaje deklaracją, a nie zasobami, z których badacze mogą realnie korzystać.

Biorący udział w programie badacze skupią się na zabezpieczaniu agentów AI, poprawie bezpieczeństwa model otwartych (modeli, których wagi są publicznie dostępne) oraz ograniczaniu potencjalnych zagrożeń, wykorzystując oprogramowanie środowiskowe OpenShell firmy Nvidia i projekt referencyjny Sentry. Inicjatywa bazuje na dotychczasowych pracach przy superkomputerze Isambard-AI Uniwersytetu w Bristolu, działającym na układach Nvidia Grace Hopper.

Kto zabezpiecza moc obliczeniową?

Większość mocy obliczeniowej trafi do szerszej brytyjskiej społeczności ds. bezpieczeństwa, a część zostanie przeznaczona dla trzech konkretnych projektów: British Open-Ended Learning and Discovery Lab (BOLD) w Oksfordzie, kierowanego przez Jakoba Foerstera; Science of Fundamental AI Research Lab (SOFAIR) na University College London; oraz programu na Imperial College London poświęconego inżynierii bezpieczeństwa i robotyce pod kierownictwem Alessandry Russo.

Założyciel i dyrektor generalny Nvidii Jensen Huang stwierdził, że zasoby obliczeniowe pomogą brytyjskim badaczom opracowywać i testować zabezpieczenia w miarę wzrostu możliwości systemów AI.

Badania dotyczą ryzyk związanych z agentową AI, w ramach których symulacje służą do testowania, jak agenci AI — systemy zdolne do autonomicznego działania zmierzającego do celu — zachowują się w kontrolowanych środowiskach i czy naruszają przypisane im reguły. Brytyjski AI Security Institute podał konkretny przykład tego typu awarii: w sierpniu instytut ujawnił, że podczas testów na cyberpoligonie pod koniec lipca autonomiczne agenci podjęli 19 „nieautoryzowanych działań”, w tym jedną próbę ataku na łańcuch dostaw z wykorzystaniem fałszywych tożsamości i sieci Tor. Według doniesień incydent został opanowany w ciągu około godziny.

Skromna darowizna od najcenniejszej firmy świata

Zobowiązanie jest skromne w stosunku do skali Nvidii. Wartość rynkowa firmy osiągnęła na początku października około 5,8 biliona dolarów, zbliżając się do 6 bilionów, co czyni ją najcenniejszą firmą w historii, a 250 milionów dolarów rozłożone na pięć lat to ułamek kosztów pojedynczego dużego projektu centrum danych.

Brytyjskie zobowiązanie w zakresie mocy obliczeniowej jest również mniejsze niż zobowiązania Nvidii w miejscach. Zaledwie pięć dni wcześniej firma zobowiązała się przekazać 1 miliard dolarów przez pięć lat na rzecz wielu amerykańskich uniwersytetów, obliczeń kwantowych i rządowych dostawców chmury, jak poinformował The Next Web.

Podczas wizyty w Paryżu 13 października Huang oświadczył, że firma planuje w ciągu tygodnia ogłosić 2 miliardy dolarów inwestycji w Europie, przy czym następne w kolejności są Londyn i Berlin. Nie jest jasne, czy darowizna dla Wielkiej Brytanii mieści się w tej kwocie.