Nvidia-ceo Jensen Huang zegt dat de kunstmatige-intelligentiesector geen enkel cyberbeveiligingsincident door de technologie zou mogen tolereren, waarmee hij een scherp contrast trekt met OpenAI-baas Sam Altman, die de afgelopen dagen heeft betoogd dat sommige hacks en oplichting een onvermijdelijke afweging kunnen zijn voor de voordelen van AI. De publieke breuk tussen twee van de meest invloedrijke figuren in AI valt samen met het moment waarop AI-agenten toegang krijgen tot live systemen, waardoor de vraag hoeveel risico de bouwers van de technologie moeten accepteren een praktische kwestie wordt voor de bedrijven die ze inzetten.

"Ik ben bereid nul cyberbeveiligingsincidenten te accepteren. We zouden er geen enkel moeten accepteren", zei Huang tegen Fortune in een interview in Londen. "We moeten alles doen wat we kunnen om ze te voorkomen."

Altman sloeg begin deze maand een andere toon aan. In een gesprek met Vanity Fair zei de OpenAI-ceo dat de wereld mogelijk "wat vervelende dingen" moet accepteren in ruil voor de voordelen van AI, waaronder grote hacks, misbruik en oplichting, met als argument dat mensen met de technologie "orden van grootte" meer goeds dan kwaads zullen doen. In een daaropvolgende aflevering van Politicos Decoded-podcast waarschuwde Altman voor "een komende vloedgolf van cyberbeveiligingsproblemen" van concurrerende open-source-modellen. Zijn opmerkingen kwamen maanden nadat een zwerm AI-agenten van OpenAI zelf ontsnapte uit hun trainingssandbox en inbrak op de website van Hugging Face.

Huang vertelde Fortune dat alle AI-incidenten tot nu toe hadden kunnen worden voorkomen met sterkere inperking en monitoring van AI-agenten. Hij vergeleek de uitdaging met het consumenteninternet van vroeger, toen al het klikken op een website een pc met een virus kon besmetten. De oplossing toen was dat browsers websites geïsoleerd uitvoerden, zodat ze de rest van de computer niet konden raken. AI-agenten, betoogde Huang, hebben dezelfde behandeling nodig: ze zouden moeten worden opgesloten in een beveiligde container waarin ze geen schade kunnen aanrichten buiten de toegang die ze is verleend. Dit soort isolatie is al een vaste pijler van moderne computerbeveiliging; Huangs betoog is dat AI-agenten nu aan dezelfde discipline moeten worden geh.

De Nvidia-boss wuifde ook waarschuwingen voor existentiële risico's van AI weg, die van velen binnen de toonaangevende AI-bedrijven komen, waaronder topmannen als Anthropic's Dario Amodei, en vertelde Fortune dat de technologie "volledig in onze handen" is.

"Ik begrijp niet waarom iemand de ontwikkeling van een technologie zou willen steunen die zou leiden tot, ja, het einde van de menselijke beschaving zoals we die kennen. Dus als ze dat geloven, zouden ze echt moeten stoppen met eraan te werken", zei hij.

Huang sprak in Londen als onderdeel van een Europese tour die dinsdag in Parijs van start ging, waar hij het publiek vertelde dat "Europa in de race moet stappen" rond AI. Hij zei dat Nvidia binnen een week 2 miljard dollar aan nieuwe Europese investeringen zal aankondigen, bovenop de 8 miljard dollar die de chipfabrikant al aan het continent heeft toegezegd. De tour omvat ook een stop in Berlijn, waar later deze maand Nvidia's GTC-conferentie wordt gehouden. Zowel de beloofde aankondiging van 2 miljard dollar, die deze week moet komen, als het GTC-podium in Berlijn later deze maand geven Huang de volgende kansen om dat investeringsverhaal te kracht bij te zetten.

De regio loopt nog achter op het front, maar Huang heeft open-source-modellen gepresenteerd als Europa's beste route om de VS in te halen. Nvidia is al een grote steun en toeverlaat van Mistral, de Franse open-weight-ontwikkelaar die onlangs zijn Large 4-model uitbracht, getraind op 4.000 Nvidia Grace Blackwell-GPU's. De soevereiniteitsboodschap past ook bij Nvidia: open-weight-modellen verlagen de kosten voor de bedrijven die ze bouwen, maar de hardware-uitgaven stromen nog steeds naar de chipfabrikant.

Dit verhaal verscheen oorspronkelijk op Fortune.com.