Nvidia-CEO Jensen Huang hat Warnungen, dass künstliche Intelligenz eine existenzielle Bedrohung für die Menschheit darstellt, wiederholt zurückgewiesen und eine kompromisslose Verteidigung für die Entwicklung mit voller Geschwindigkeit geführt.

In einem Interview mit CBS News vor zwei Wochen sagte Huang: „2030 wird nicht das Ende der Welt sein. Es gibt eine 0%ige Chance, dass das das Ende der Welt sein wird.“

Er griff auch andere KI-Führer an, darunter OpenAIs Sam Altman und Anthropics Dario Amodei, und nannte sie „verantwortungslos“ wegen der „Untergangserzählungen“, die sie in aktuellen Berichten verbreitet haben.

„Ich glaube, dass die Behauptungen vom Ende der Welt, die Angst in ganz Amerika schüren – und dass genau die Leute das machen, die es machen – für mich keinen Sinn ergeben. Sie müssen also Hintergründe haben“, sagte Huang. „Es ist verantwortungslos, und ich kenne ihre Motive nicht.“

Bei einer G20-Veranstaltung Anfang September argumentierte Huang, Regierungen sollten „tatsächliche und praktische Schäden“ statt „hypothetischer, theoretischer Schäden“ regulieren. Er verglich die Entwicklung von KI mit der Entwicklung des Autos und deutete an, dass die Technologie mit dem Fortschritt sicherer werden kann. Im Juli sagte er Axios, die Vorstellung, KI würde die Menschheit auslöschen, sei „völliger Unsinn“, fügte hinzu, dass Politiker die KI-Politik nicht von „Science-Fiction“ treiben lassen sollten, und warnte, die USA könnten sich selbst schaden, wenn sie zu große Angst vor der Technologie entwickelten.

Der Konfli zwischen Huang und den Führern von OpenAI und Anthropic dreht sich um eine der folgenreichsten Fragen der KI: ob der rasche Fortschritt ein katastrophales Risiko birgt – und was die Antwort darauf für die Regulierung der Technologie bedeutet.

Zwar hilft es Nvidia, mehr Chips zu verkaufen, wenn KI mit voller Geschmack vorangetrieben wird; doch eine Verlagerung hin zu mehr Cybersicherheit zum Schutz vor missratenen KI-Agenten würde die Nachfrage nach Chips ebenfalls ankurbeln.

Huangs energischer Widerspruch deckt sich mit der Haltung von Präsident Donald Trump, der den CEO mitten in einer Präsentation anrief, um zu erklären, der KI-Doomerismus sei „ein Hoax“. „KI, die die Welt übernimmt, die Menschheit zerstört und all die anderen schlechten Dinge, ist ein HOAX“, schrieb Trump im September in einem Beitrag auf Truth Social.

Das bedeutet nicht, dass Huang KI-Schutzmaßnahmen für unnötig hält. Er hat die KI-Sicherheit als „von höchster Bedeutung“ bezeichnet, während er darauf besteht, dass sich die Entwicklung weiterhin schnell bewegen kann. „Wenn wir die Sicherheit gefährden, kann das nicht passieren“, sagte er CBS News. „Wir sollten so schnell wie möglich vorangehen, aber nicht schneller, als wir sollten.“

Am Montag setzte Nvidia diese Haltung in die Praxis um und führte eine neue Plattform ein, die verhindern soll, dass KI-Agenten außer Kontrolle geraten. Das Unternehmen sagte, seine Open Agent Safety Platform biete „Full-Stack“-Kontrolle über KI-Agenten vom Test bis zum Einsatz, mit Überwachungsfunktionen, die verhindern sollen, dass Agenten ihre zugewiesene Befugnis überschreiten.

Der Launch erfolgt, während KI-Unternehmen mit einer wachsenden Zahl von Vorfällen konfrontiert sind. Mehrere Fälle von missratenen KI-Agenten wurden berichtet – auch von OpenAI, Google und Anthropic. Nvidia sagte, sein neues Sicherheitssystem hätte den Hack auf Hugging Face, der von OpenAI-Modellen durchgeführt wurde, verhindern können.

„Nach allem, was wir wissen, hätte diese neue Sicherheitsplattform die Verletzung stoppen können, wenn sie frühzeitig in Frontier-Laboren zur Modellevaluierung eingesetzt worden wäre“, sagte Justin Boitano, Vizepräsident und General Manager für Enterprise Computing bei Nvidia, in einem Mediabriefing.

So funktioniert es

Angesichts der Flut von Berichten über missratene KI-Agenten geht Nvidia das Problem mit seiner Open Agent Safety Platform an, die zwei Technologien kombiniert: OpenShell und „Sentry“.

Laut Nvidia bringt OpenShell KI-Agenten in isolierte Umgebungen, die den Zugriff auf Dateien, Werkzeuge, Netzwerke, Zugangsdaten und andere Ressourcen einschränken – im Wesentlichen werden damit die Einschränkungen standardisiert, die zu früheren Ausbrüchen geführt haben.

Sentry ist eine äußere Schicht, die auf Nvidias Datenverarbeitungseinheiten läuft und die Agentenaktivität kontinuierlich überwacht. Das Unternehmen sagt, wenn ein Agent versucht, seine Softwaregrenze zu überschreiten, kann Sentry ihn binnen Millisekunden quarantänisieren und stoppen.

„Das außergewöhnliche Potenzial der KI für die Gesellschaft wird sich nur verwirklichen lassen, wenn wir die KI-Sicherheit lösen“, sagte Huang in einer Pressemitteilung. „Da wir weiterhin die Grenze der KI-Fähigkeiten erkunden, müssen wir die Entdeckung an der Grenze der KI-Sicherheit beschleunigen. Sicherheit und Schutz erfordern Full-Stack-Engineering.“

Ob Frontier-Labore die Plattform genau für die Art der Modellevaluierung einsetzen, die Boitano beschrieb, wird ein früher Test für Nvidias engineering-getriebene Antwort auf die Sicherheit sein – und dafür, ob Huangs Formel „so schnell wie möglich, aber nicht schneller, als wir sollten“ Bestand haben kann.

Diese Geschichte erschien ursprünglich auf Fortune.com.