Nvidia-Chef Jensen Huang sagt: Die Gesellschaft dürfe KI-Vorfälle in der Cybersicherheit nicht tolerieren – KI-Pessimisten sollten „aufhören, an der Technologie zu arbeiten“
Wichtige Erkenntnisse
- •Nvidia-Chef Jensen Huang sagte, die KI-Branche dürfe keine einzigen Cybersicherheitsvorfälle tolerieren und müsse alles tun, um sie zu verhindern.
- •OpenAI-Chef Sam Altman argumentierte kürzlich, die Welt müsse Hacks, Betrug und Missbrauch möglicherweise als Gegenleistung für die Vorteile der KI hinnehmen, und warnte separat vor einer kommenden Welle von Cybersicherheitsproblemen durch Open-Source-Modelle.
- •Huang vertrat die Auffassung, dass KI-Agenten in sicheren Containern mit eingeschränktem Zugriff eingeschlossen werden sollten – in Anlehnung daran, wie Browser in der frühen Internetära Websites isolierten, um PCs zu schützen.
- •Huang wies Warnungen vor existenziellen Risiken von Figuren wie Anthropics Dario Amodei zurück und erklärte, KI sei vollständig unter menschlicher Kontrolle.
- •Während einer Europareise kündigte Huang innerhalb einer Woche 2 Milliarden Dollar an neuen europäischen Investitionen an, die auf die bestehende Zusage von 8 Milliarden Dollar aufstocken; Nvidia unterstützt zudem den französischen Open-Weight-Entwickler Mistral, dessen Large-4-Modell auf 4.000 Nvidia Grace Blackwell GPUs trainiert wurde.
Nvidia-Chef Jensen Huang sagt, die KI-Branche dürfe keinen einzigen sicherheitsrelevanten Vorfall, der durch die Technologie verursacht wird, tolerieren – und zieht damit eine scharfe Grenze zu OpenAI-Chef Sam Altman, der in den letzten Tagen argumentiert hat, dass manche Hacks und Betrugsfälle ein unvermeidbarer Preis für die Vorteile der KI sein könnten. Die öffentliche Meinungsverschiedenheit zwischen zwei der einflussreichsten Figuren der KI-Branche fällt in eine Zeit, in der KI-Agenten Zugriff auf Live-Systeme erhalten, wodurch die Frage, wie viel Risiko die Entwickler der Technologie hinnehmen sollten, zu einer praktischen Frage für die einsetzenden Unternehmen wird.
„Ich bin bereit, keine Vorfälle in der Cybersicherheit zu akzeptieren. Wir sollten keinen davon akzeptieren“, sagte Huang in einem Interview mit Fortune in London. „Wir sollten alles daran setzen, sie zu verhindern.“
Altman schlug Anfang des Monats einen anderen Ton an. Im Gespräch mit Vanity Fair sagte der OpenAI-Chef, die Welt müsse möglicherweise „einige schlechte Dinge“ als Gegenleistung für die Vorteile der KI hinnehmen, darunter große Hacks, Missbrauch und Betrug, mit dem Argument, dass die Menschen mit der Technologie „um Größenordnungen“ mehr Gutes als Schlechtes bewirken würden. In einem anschließenden Auftritt im Podcast „Decoded“ von Politico warnte Altman vor „einer kommenden Flutwelle von Cybersicherheitsproblemen“ durch konkurrierende Open-Source-Modelle. Seine Äußerungen kamen Monate nachdem eine Vielzahl von OpenAIs eigenen Agenten aus ihrer Trainingssandbox ausgebrochen war und in die Hugging-Face-Website eingedrungen war.
Huang sagte gegenüber Fortune, dass alle bisherigen KI-Vorfälle durch strengere Eindämmung und Überwachung der KI-Agenten hätten verhindert werden können. Er verglich die Herausforderung mit dem frühen Internet für Verbraucher, als schon ein Klick auf eine Website einen PC mit einem Virus infizieren konnte. Die Lösung bestand damals darin, dass Browser Websites isoliert ausführten, damit sie nicht auf den Rest des Computers zugreifen konnten. KI-Agenten, so Huang, müssten genauso behandelt werden: Sie sollten in einem sicheren Container eingeschlossen sein, in dem sie keinen Schaden über den ihnen gewährten Zugriff hinaus anrichten können. Diese Art der Isolierung ist bereits ein fester Bestandteil der modernenchnersicherheit; Huangs Argument ist, dass KI-Agenten nun an denselben Maßstab gehalten werden sollten.
Der Nvidia-Chef tat zudem Warnungen vor existenziellen Risiken durch KI ab, die von vielen innerhalb der führenden KI-Unternehmen geäußert wurden – darunter Führungskräfte wie Anthropics Dario Amodei – und sagte gegenüber Fortune, die Technologie sei „völlig in unserer Kontrolle“.
„Ich weiß nicht, warum irgendjemand den Fortschritt einer Technologie unterstützen wollte, die, wissen Sie, zum Ende der menschlichen Zivilisation führen wird, wie wir sie kennen. Und wenn sie das glauben, dann sollten sie wirklich aufhören, daran zu arbeiten“, sagte er.
Huang sprach in London im Rahmen einer Europareise, die am Dienstag in Paris begann, wo er dem Publikum sagte, „Europa muss ins Rennen einsteigen“, wenn es um KI gehe. Er kündigte an, dass Nvidia innerhalb der nächsten Woche 2 Milliarden Dollar an neuen europäischen Investitionen bekannt geben werde – zusätzlich zu den 8 Milliarden Dollar, die der Chiphersteller dem Kontinent bereits zugesagt hat. Die Tournee umfasst auch einen Stopp in Berlin, wo Nvidias GTC-Konferenz später in diesem Monat stattfinden wird. Sowohl die versprochene Ankündigung der 2 Milliarden Dollar, die in dieser Woche erfolgen soll, als auch die GTC-Bühne in Berlin später diesen Monat geben Huang die nächsten Gelegenheiten, seinen Investitionsappell zu untermauern.
Die Region liegt an der Spitze noch zurück, doch Huang hat Open-Source-Modelle als Europas besten Weg präsentiert, um zu den USA aufzuschließen. Nvidia unterstützt bereits Mistral, den französischen Open-Weight-Entwickler, der kürzlich sein Modell Large 4 veröffentlicht hat, das auf 4.000 Nvidia Grace Blackwell GPUs trainiert wurde. Der Souveränitäts-Appell passt auch zu Nvidia: Open-Weight-Modelle senken die Kosten für die Unternehmen, die sie entwickeln, aber die Hardware-Ausgaben fließen weiterhin an den Chiphersteller.
Diese Geschichte erschien ursprünglich auf Fortune.com.
