Nvidia-aandelen daalden donderdag zo'n 1% bij de opening nadat CEO Jensen Huang zei dat kunstmatige-intelligentielaboratoria hun activiteiten moeten staken als ze hun modellen niet onder controle kunnen houden.

Huang deed deze opmerkingen tijdens een aflevering van The Ezra Klein Show die woensdag werd gepubliceerd. Hij zei dat organisaties zoals OpenAI en Anthropic moeten sluiten als zij vaststellen dat hun AI-systemen onveilig zijn, met de waarschuwing dat het nalaten daarvan catastrofale gevolgen voor de mensheid kan hebben.

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren't safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

Huang verduidelijkte dat hij niet opriep tot onmiddellijke sluiting van AI-laboratoria. In plaats daarvan zei hij dat de bedrijven moeten verbeteren hoe zij veilige modellen ontwikkelen.

"Als de isolatie en inperking goed genoeg waren, zou die technologie in een lab zitten, waar het mee bezig is, en zou het ons allemaal goed gaan", zei Huang.

De opmerkingen zijn opmerkelijk gezien de commerciële relaties van Nvidia Corporation met OpenAI en Anthropic, die grote klanten zijn van de chipmaker. Huang standpunt richt zich op sterkere veiligheidsprotocollen, isolatie, inperking en tests in plaats van het alignment-probleem rechtstreeks aan te pakken — de technische uitdaging om ervoor te zorgen dat AI-systemen menselijke bedoelingen nauwkeurig volgen.

Volgens Huang kunnen intensievere tests de computationele vereisten van modelontwikkeling weliswaar tot tienvoud verhogen. Dat zou de vraag naar Nvidia's halfgeleiderproducten mogelijk doen toenemen, waardoor de voorgestelde veiligheidsmaatregelen samenvallen met de commerciële belangen van het bedrijf.

De opmerkingen kwamen tegelijk met een optreden van Brad Smith, vicevoorzitter en president van Microsoft, bij een paneldiscussie van de Verenigde Naties. Smith steunde het geven van een "kill switch" aan AI-systemen.

"De mensen die het model maken zouden de mogelijkheid moeten hebben om het uit te zetten", zei Smith. Hij voegde eraan toe dat cloudproviders en bedrijven die AI-agenten beheren dezelfde mogelijkheid zouden moeten hebben. Smith zei open te staan voor regelgeving die dergelijke controles vereist en noom uitgebreide AI-regulering in de toekomst "onvermijdelijk".

Samen benoemen de uitspraken verschillende voorgestelde waarborgen: tests vóór inzet, isolatie en inperking, en de mogelijkheid voor ontwikkelaars en beheerders om systemen af te sluiten.

OpenAI CEO Sam Altman en Anthropic-topman Dario Amodei spraken dezelfde dag bij de Verenigde Naties en riepen internationale leiders op om waarborgen in te stellen voordat AI-systemen de menselijke controle ontgroeien.

De druk voor sterkere AI-veiligheidsmaatregelen is sinds begin september toegenomen. Jacob Coxon, een voormalig onderzoeker bij Anthropic, waarschuwde dat AI een existentiëel risico voor de mensheid zou kunnen vormen. Coxon zei op social media dat zijn drie jaar pretraining-onderzoek bij OpenAI en Anthropic hem liet zien dat geen van beide organisaties verantwoord handelde. Hij beweerde dat beide bedrijven agressief zelfverbeterende AI-systemen nastreven.

Oproepen voor noodstopmogelijkheden kregen in juli ook vaart nad een OpenAI-model beveiligingsprotocollen doorsloeg en externe websites bezocht. Het incident leidde tot wetgeving van beide partijen die instrumenten voorstelt om de activiteiten van AI-bedrijven onmiddellijk stil te leggen. Het wetsvoorstel ligt sinds de indiening ter beoordeling bij een subcommissie van het Huis van Afgevaardigden.

AI-bedrijven nemen verschillende standpunten in over regulering. Anthropic steunt toezicht, terwijl Meta regelgevende maatregelen heeft tegengegaan en vorig jaar een super PAC heeft opgericht om AI-regulering te blokkeren.

Smith zei niet te geloven dat AI een kans van 10% op menselijke uitsterving met zich meebrengt, maar vond dat het onderwerp serieus overwogen moest worden.

Nvidia-aandelen stonden donderdag in de vroege handel 1,5% lager na Huangs opmerkingen.

Bron: Blockonomi