Nvidia-ceo Jensen Huang heeft waarschuwingen dat kunstmatige intelligentie een existentiële dreiging voor de mensheid vormt herhaaldelijk van de hand gewezen en verdedigt krachtig om de ontwikkeling met volle snelheid voort te zetten.

In een interview met CBS News twee weken geleden zei Huang: “2030 is niet het einde van de wereld. Er is 0% kans dat dat het einde van de wereld wordt.”

Hij ging ook in de aanval tegen collega-AI-leiders, waaronder OpenAI's Sam Altman en Anthropic's Dario Amodei, en noemde het “onverantwoord” dat zij in recente rapporten “doemverhalen” hebbenpreid.

“Ik vind de claims over het einde van de wereld, die angst zaaien in heel Amerika, en dan door de mensen die dit doen, volstrekt onzinnig, dus ze moeten het om verborgen motieven doen,” zei Huang. “Het is onverantwoord, en ik weet niet wat hun motieven zijn.”

Tijdens een G20-evenement eerder in september voerde Huang aan dat overheden “feitelijke en praktische schade” zouden moeten reguleren in plaats van “hypothetische, theoretische schade.” Hij vergeleek de ontwikkeling van AI met de evolutie van auto's, en suggereerde dat de technologie veiliger kan worden naarmate ze vordert. In juli vertelde hij aan Axios dat het idee dat AI de mensheid zou tenietdoen “volstrekte onzin” was, voegde hij eraan toe dat beleidsmakers “sciencefiction” niet tot AI-beleid mogen laten leiden, en waarschuwde hij dat de VS zichzelf kan schaden door te bang voor de technologie te worden.

De wrijving tussen Huang en de leiders van OpenAI en Anthropic draait om een van de belangrijkste vragen in AI: of snelle vooruitgang een catastrofaal risico met zich meebrengt, en wat dat antwoord betekent voor de manier waarop de technologie moet worden gereguleerd.

Het is waar dat het op volle snelheid houden van AI Nvidia helpt meer chips te verkopen, al zou een verschuiving naar cyberbeveiliging tegen uit de bol geslagen AI-agenten ook de vraag naar chips aanakkeren.

Huang's krachtige tegenwicht sluit aan bij president Donald Trump, die de ceo opbelde terwijl deze middenin een presentatie was om te zeggen dat AI-doemdenken “een hoax” is. “AI die de wereld overneemt, de mensheid vernietigt, en al die andere slechte dingen, is een HOAX,” schreef Trump in september in een bericht op Truth Social.

Dat betekent niet dat Huang vindt dat AI-veiligheidsmaatregelen overbodig zijn. Hij heeft AI-veiligheid “essentieel” genoemd, terwijl hij volhoudt dat de ontwikkeling snel kan blijven gaan. “Als we de veiligheid in gevaar brengen, kan dat niet,” zei hij tegen CBS News. “We moeten gaan zo snel als we kunnen, maar niet sneller dan verantwoord.”

Op maandag zette Nvidia die koers in de praktijk om met de lancering van een nieuw platform dat moet voorkomen dat AI-agenten uit de bol slaan. Het bedrijf zei dat het Open Agent Safety Platform is gebouwd om “full-stack” controle over AI-agenten te bieden, van tests tot uitrol, met monitorcapaciteiten die moeten voorkomen dat agenten hun toegekende bevoegdheden overschrijden.

De lancering komt op een moment dat AI-bedrijven met een groeiend aantal incidenten worden geconfronteerd. Er zijn meerdere meldingen van uit de bol geslagen AI-agenten geweest, waaronder van OpenAI, Google en Anthropic. Nvidia zei dat het nieuwe veiligheidssysteem de hack op Hugging Face door OpenAI-modellen had kunnen stoppen.

“Voor zover wij weten had dit nieuwe beveiligingsplatform de inbreuk kunnen stoppen als het vanaf het begin in frontier labs voor modelevaluatie was gebruikt,” zei Justin Boitano, vicepresident en general manager enterprise computing bij Nvidia, tijdens een persbriefing.

Hoe het werkt

Geconfronteerd met een stroom aan meldingen van uit de bol geslagen AI-agenten pakt Nvidia het probleem aan via het Open Agent Safety Platform, dat twee technologieën combineert: OpenShell en “Sentry.”

Volgens Nvidia plaatst OpenShell AI-agenten in geïsoleerde omgevingen die de toegang tot bestanden, tools, netwerken, inloggegevens en andere bronnen beperken — in essentie worden de beperkingen die tot eerdere uitbraken leidden gestandaardiseerd.

Sentry is een buitenlaag die draait op Nvidia data processing units en de activiteit van agenten continu monitort. Het bedrijf zegt dat als een agent probeert buiten zijn softwaregrens te treden, Sentry het binnen milliseconden kan quarantaineren en stoppen.

“AI's buitengewone potentieel voor de samenleving wordt pas gerealiseerd als we AI-veiligheid oplossen,” zei Huang in een persbericht. “Terwijl we de grenzen van AI-capaciteiten blijven verkennen, moeten we de ontdekking aan het front van AI-veiligheid versnellen. Veiligheid en beveiliging vereisen full-stack engineering.”

Of frontier labs het platform precies zullen omarmen voor het soort modelevaluatie dat Boitano beschreef, zal een eerste test zijn van Nvidia's op techniek gebaseerde antwoord op veiligheid — en van de vraag of Huang's formule “zo snel als we kunnen, maar niet sneller dan verantwoord” standhoudt.

Dit verhaal verscheen oorspronkelijk op Fortune.com.