Nvidia (NVDA)-aandelen sloten op $221,30 op 14 oktober, een daling van $7,22, of 3%, terwijl chipaandelen de dalingen in de Amerikaanse handel aanvoerden. Het aandeel handelde nabij $217,86 in de premarket-handel op 15 oktober, opnieuw ongeveer 2% lager.

De beweging kwam toen Nvidia-CEO Jensen Huang de AI-veiligheid en de aanpak van het bedrijf bij het leveren van technologie aan AI-ontwikkelaars besprak. In een gesprek met Bloomberg's Emily Chang in Londen werd Huang gevraagd of Nvidia zou stoppen met het leveren van chips aan een onverantwoordelijke AI-ontwikkelaar.

"Het is een hypothese, maar ja", zei Huang. Hij voegde eraan toe dat Nvidia eerst met het betreffende bedrijf zou spreken. "Wij leiden de bedrijven van anderen niet", zei hij, terwijl hij opmerkte dat Nvidia's vermogen om dergelijke oordelen te vellen beperkt is omdat de technologie algemeen toepasbaar is.

Huang herhaalde dat antwoord tijdens het gesprek en benadrukte dat het scenario hypothetisch was en dat Nvidia eerst met de ontwikkelaar in gesprek zou gaan voordat het actie onderneemt.

De uitwisseling belicht een vraag die de hele AI-industrie doorkruist: hoeveel verantwoordelijkheid ligt bij de leveranciers van algemene hardware voor de uiteindelijke inzet van hun chips. Huang zelf wees op de grenzen van een dergelijk oordeel.

Nvidia financiert Brits AI-veiligheidsonderzoek

Nvidia stopt $250 miljoen over vijf jaar in AI-veiligheidsonderzoek in het Verenigd Koninkrijk. De financiering geeft onderzoekers toegang tot geavanceerde rekentijd en ondersteunt werk instellingen waaronder Oxford University en University College London.

Het onderzoek zal veiligheidsmaatregelen en methoden voor het beheersen van AI-agenten onderzoeken. Huang maakt een tournee door Europa voorafgaand aan een bedrijfsevenement in Berlijn, de volgende geplande stop van een reis die AI-veiligheid centraal heeft gesteld in zijn publieke uitspraken. Hij omschreef zorgen over AI-veiligheid als groeipi-jnen van een snel ontwikkelende industrie.

Huang zei dat veel jonge AI-bedrijven "ongelooflijk snel groeien" en nog bezig zijn de verantwoordingsplicht te ontwikkelen die bij die groei hoort. Anthropic-CEO Dario Amodei heeft een sectorbrede vertraging voorgesteld om veiligheidszorgen aan te pakken, maar Huang zei te geloven dat AI-software veilig kan worden beheerst en gebruikt — een tegengeluid tegen oproepen binnen de industrie voor een voorzichtiger tempo.

Huang omschreef sommige zorgen als "zelfgecreëerd" en zei dat de industrie een "verschrikkelijke job" doet in het uitleggen van de voordelen van AI. Hij betoogde dat AI zelf kan helpen de risico's aan te pakken en pleitte voor snellere ontwikkeling van monitoringtools, zeggend: "AI is die monitor."

Huang verwerpt zorgen over AI-bubbel

Huang verwierp ook de zorgen dat de AI-industrie zich in een bubbel bevindt. Hij zei dat de vraag naar AI-infrastructuur het beschikbare aanbod van componenten meerdere jaren zal overtreffen.

Tijdens een evenement in Londen zei Huang dat vraag en aanbod uiteindelijk in balans zouden komen, maar benadrukte dat dit nog niet is gebeurd. Het Nvidia-aandeel handelde nabij $217,86 in de premarket-handel op 15 oktober, na de daling van 3% naar $221,30 de dag ervoor.

In India riep Bharti Airtel-voorzitter Sunil Mittal regeringen op om vroegtijdig AI-regels vast te stellen. Hij zei dat AI zich sneller ontwikkelt dan toezichthouders zich kunnen voorbereiden en verwees naar waarschuwingen van technologieoprichters dat hun agenten "uit de hand kunnen slaan".

Mittal vroeg zich af of regeringen "pas wakker worden als er een ongeluk gebeurt". Zijn opmerkingen lieten zien dat het veiligheidsdebat zich nu uitstrekt voorbij AI-ontwikkelaars en chipmakers naar zakelijke leiders die regeringen aansporen te handelenat problemen zich voordoen.