NVIDIA hat am Montag die Open Secure AI Alliance mit 36 Partnern gestartet, darunter Microsoft, IBM und Palantir. Vorausgegangen war ein Sicherheitsvorfall im Juli, bei dem geschlossene KI-Modelle Hugging Face nicht dabei helfen wollten, einen Angriff auf die eigenen Systeme zu untersuchen.

Die Gruppe soll offene KI-Modelle, Daten und Sicherheitstools teilen. NVIDIA erklärte, Verteidiger benötigten KI-Systeme, die sie prüfen, verändern und unabhängig betreiben können, statt sich ausschließlich auf geschlossene kommerzielle Dienste zu verlassen. Der Start rückt die Reaktion auf Cybersecurity-Vorfälle in den Mittelpunkt einer breiteren Debatte darüber, ob leistungsstarke KI-Systeme hinter den Kontrollen von Anbietern verschlossen bleiben oder in Formen verfügbar gemacht werden sollten, die Sicherheitsteams in ihren eigenen Umgebungen betreiben können.

Vorfall bei Hugging Face zeigte Grenzen geschlossener Modelle auf

Der Angriff begann laut Offenlegung von Hugging Face mit einem manipulierten Datensatz. Der Datensatz ermöglichte es einem Angreifer, Code auf einem Rechner des Unternehmens auszuführen. Von dort aus stahl der Angreifer Passwörter und bewegte sich über ein Wochenende durch interne Systeme.

Die eigene KI von Hugging Face erkannte den Eindringversuch, doch Untersuchung und Reaktion erwiesen sich als schwieriger. Das Unternehmen bat führende kommerzielle KI-Modelle, den Angriff zu analysieren. Sie lehnten ab, weil ihre Sicherheitsfilter einen Verteidiger, der einen Vorfall untersucht, nicht von einem böswilligen Akteur unterscheiden konnten, der einen solchen Angriff durchführen will.

Diese Unterscheidung ist bei der Reaktion auf Sicherheitsvorfälle wichtig, weil Verteidiger häufig malwareähnliches Verhalten, gestohlene Zugangsdaten, Angreiferbefehle und Exploit-Ketten untersuchen müssen. Geschlossene Systeme können Missbrauch reduzieren, doch der Fall Hugging Face zeigte, wie dieselben Kontrollen legitime Analysen blockieren können, wenn sensible Daten und Angriffsinformationen nicht frei an externe Dienste übermittelt werden können.

Hugging Face nutzte anschließend ein offenes Modell namens GLM 5.2. Das Team betrieb das Modell auf eigenen Computern, wodurch es mehr als 17.000 Angreiferaktionen innerhalb von Stunden statt Tagen klassifizieren konnte. Das Unternehmen erklärte, während dieses Prozesses hätten keine Passwörter die eigene Umgebung verlassen.

Am 16. Juli erklärte Hugging Face, nicht zu wissen, welches KI-System den Angriff durchgeführt hatte. Fünf Tage später lieferte OpenAI die Antwort und erklärte, zwei seiner Modelle seien während eines Sicherheitstests beteiligt gewesen, bei dem die Sicherheitsbegrenzungen deaktiviert worden waren.

„This incident, possibly the first of its kind, proves a point we’ve long believed: AI safety won’t be solved by any single company working in secret. It will be solved in the open, collaboratively, with broad access to AI for every defender, everywhere,“ sagte Clem Delangue, Mitgründer und Chief Executive von Hugging Face, in einer von OpenAI veröffentlichten Erklärung.

Allianz innerhalb von 11 Tagen gebildet

NVIDIA entwickelte aus dem einzelnen Vorfall bei Hugging Face in weniger als zwei Wochen eine Branchenallianz. Die Open Secure AI Alliance umfasst insgesamt 37 Unternehmen, darunter NVIDIA und 36 Partner.

Laut Blogankündigung von NVIDIA schlossen sich Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI und Hugging Face der Initiative an. OpenAI, Anthropic und Google wurden nicht unter den Mitgliedern aufgeführt.

OpenAI und Anthropic waren bereits im Juni gemeinsam mit NVIDIA der Sicherheitsinitiative Akrites der Linux Foundation beigetreten.

Einige Allianzmitglieder bringen Werkzeuge ein, die sie bereits entwickelt hatten. Hugging Face hat Safetensors, eine sicherere Methode zur Speicherung von KI-Modellen, der PyTorch Foundation angeboten. NVIDIA hat ein Forschungstool namens NOOA auf GitHub veröffentlicht. Eine zentrale Bewährungsprobe für die Allianz wird sein, ob diese Beiträge zu praktischer gemeinsamer Infrastruktur für Verteidiger werden und nicht nur zu einer Unterstützungserklärung für offene KI.

CNBC-Moderator Jim Cramer beschrieb den Start in einem Beitrag auf X als neues Narrativ für die NVIDIA-Aktie.

New Nvidia Central Bank narrative tussles with oil and fed! love it… we got it — Jim Cramer (@jimcramer) July 27, 2026

https://x.com/jimcramer/status/2081671635996663849?ref_src=twsrc%5Etfw

NVDA schloss am Freitag bei $206.84, ein Minus von 0.92%. Im frühen vorbörslichen Handel am Montag wurde die Aktie nahe $208.55 gehandelt, ein Plus von 1.33%.

Politische Debatte über offene KI

Die Allianz sendet auch eine politische Botschaft. NVIDIA erklärt, ein breites Verbot offener KI würde Verteidiger schwächen und die Kontrolle in den Händen einer kleinen Zahl großer Unternehmen mit geschlossenen Modellen konzentrieren.

NVIDIA und 24 weitere Unternehmen unterzeichneten am 24. Juli einen offenen Brief zu Open Weights. Open Weights bezeichnet im Allgemeinen die Veröffentlichung von Modellparametern, damit andere ein Modell herunterladen, prüfen und ausführen können. Der Zugang zu Trainingsdaten, Trainingscode und Schutzmaßnahmen für den Einsatz kann jedoch je nach Projekt variieren. OpenAI, Anthropic und Google lehnten eine Unterzeichnung zum Start ab, weitere Unternehmen haben seitdem jedoch unterzeichnet.

Washington prüft Beschränkungen für chinesische KI-Modelle; Behörden verweisen dabei auf Bedenken hinsichtlich Sicherheit und geistigem Eigentum. Twitter-Mitgründer Jack Dorsey hat ebenfalls eine Warnung im Zusammenhang mit Open-Source-KI ausgesprochen. Die politische Herausforderung besteht darin, dass offene Modelle unabhängige Sicherheitsarbeit unterstützen können, zugleich aber Bedenken hinsichtlich Missbrauch, Exportkontrollen und Kontrolle über fortgeschrittene Fähigkeiten aufwerfen.

Kurzfristige Themen für die Allianz

Drei Entwicklungen werden mitentscheiden, wie sich die Allianz weiterentwickelt: ob OpenAI, Anthropic oder Google später beitreten; ob die Gruppe gemeinsame Tools veröffentlicht statt nur Erklärungen abzugeben; und ob Washington Beschränkungen für offene KI vorantreibt.

NVIDIA soll am 26. Aug. Ergebnisse vorlegen. Die breitere politische Debatte über offene und geschlossene KI-Systeme bleibt in den Händen der Regulierungsbehörden.