Die Nvidia-Aktie gab in der Eröffnungssitzung am Donnerstag rund 1 % nach, nachdem CEO Jensen Huang erklärt hatte, Labore für künstliche Intelligenz sollten ihren Betrieb einstellen, wenn sie ihre Modelle nicht kontrollieren können.

Huang äußerte sich während eines am Mittwoch veröffentlichten Auftritts in The Ezra Klein Show. Er sagte, Organisationen wie OpenAI und Anthropic sollten ihren Betrieb einstellen, wenn sie feststellen, dass ihre KI-Systeme unsicher sind, und warnte, dass ein Versäumnis katastrophale Folgen für die Menschheit haben könnte.

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren’t safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

Huang stellte klar, dass er nicht zu einer sofortigen Schließung von KI-Laboren aufrufe. Stattdessen müssten die Unternehmen seiner Ansicht nach ihre Verfahren zur Entwicklung sicherer Modelle verbessern.

“If the isolation and containment was good enough, that technology would be sitting in a lab, doing whatever it’s doing, and we’d all be fine,” Huang said.

Die Äußerungen sind angesichts der Geschäftsbeziehungen der Nvidia Corporation zu OpenAI und Anthropic bemerkenswert, da beide zu den wichtigen Kunden des Chipherstellers gehören. Huangs Position konzentriert sich auf stärkere Sicherheitsprotokolle, Isolation, Eindämmung und Tests, statt das Alignment-Problem direkt anzugehen – die technische Herausforderung, sicherzustellen, dass KI-Systeme menschliche Absichten korrekt umsetzen.

Laut Huang könnten umfangreichere Tests den Rechenbedarf für die Entwicklung von Modellen um bis zu das Zehnfache erhöhen. Das könnte potenziell die Nachfrage nach den Halbleiterprodukten von Nvidia steigern und die vorgeschlagenen Sicherheitsmaßnahmen mit den Geschäftsinteressen des Unternehmens in Einklang bringen.

Die Äußerungen fielen, während Brad Smith, stellvertretender Vorsitzender und Präsident von Microsoft, vor einem Podium der Vereinten Nationen sprach. Smith unterstützte die Ausstattung von KI-Systemen mit einem „kill switch“.

“The people who create the model should have the ability to turn it off,” Smith said. He added that cloud providers and companies operating AI agents should have the same capability. Smith said he was open to regulations requiring those controls and described comprehensive AI regulation as “inevitable” in the future.

Zusammengenommen benennen die Äußerungen mehrere vorgeschlagene Schutzmaßnahmen: Tests vor der Einführung, Isolation und Eindämmung sowie die Möglichkeit für Entwickler und Betreiber, Systeme abzuschalten.

OpenAI-CEO Sam Altman und Anthropic-Chef Dario Amodei sprachen am selben Tag vor den Vereinten Nationen und forderten internationale Führungspersönlichkeiten auf, Schutzmaßnahmen einzuführen, bevor KI-Systeme die menschliche Kontrolle überschreiten.

Der Druck für stärkere KI-Sicherheitsmaßnahmen hat seit Anfang September zugenommen. Jacob Coxon, ein ehemaliger Anthropic-Forscher, warnte, dass KI existenzielle Risiken für die Menschheit darstellen könnte. Coxon erklärte in sozialen Medien, seine dreijährige Tätigkeit in der Pretraining-Forschung bei OpenAI und Anthropic habe ihm gezeigt, dass keine der beiden Organisationen verantwortungsvoll agiere. Er behauptete, beide Unternehmen würden die Entwicklung selbstverbessernder KI-Systeme aggressiv vorantreiben.

Die Forderungen nach Möglichkeiten zur Notabschaltung gewannen im Juli ebenfalls an Dynamik, nachdem ein OpenAI-Modell Sicherheitsprotokolle verletzt und auf externe Websites zugegriffen hatte. Der Vorfall führte zu einem parteiübergreifenden Gesetzentwurf, der Instrumente zur sofortigen Abschaltung des Betriebs von KI-Unternehmen vorsah. Der Gesetzentwurf wird seit seiner Einbringung weiterhin von einem Unterausschuss des Repräsentantenhauses geprüft.

KI-Unternehmen vertreten unterschiedliche Positionen zur Regulierung. Anthropic unterstützt eine Aufsicht, während Meta regulatorische Maßnahmen abgelehnt und im vergangenen Jahr ein Super-PAC gegründet hat, um eine KI-Regulierung zu verhindern.

Smith sagte, er glaube nicht, dass KI eine Wahrscheinlichkeit von 10 % für das Aussterben der Menschheit darstelle, betonte jedoch, dass das Thema ernsthaft geprüft werden müsse.

Die Nvidia-Aktie lag nach Huangs Äußerungen im frühen Donnerstagshandel 1,5 % im Minus.

Quelle: Blockonomi