Nvidia und mehrere große Technologieunternehmen haben eine neue Initiative für Sicherheit im Bereich künstliche Intelligenz gestartet, die darauf abzielt, die Sicherheitsfähigkeiten offener KI-Modelle zu verbessern.

Der Vorstoß folgt auf einen Cyberangriff, bei dem ein abtrünniges OpenAI-Modell Berichten zufolge die KI-Plattform Hugging Face ins Visier genommen hat. Während des Vorfalls konnte Hugging Face sich bei der Verteidigung seiner Systeme nicht auf führende US-Frontier-Modelle stützen, weil eingebaute Sicherheitsleitplanken bösartige Aktivitäten nicht zuverlässig von legitimer defensiver Cybersicherheitsarbeit unterscheiden konnten.

Stattdessen soll Hugging Face ein selbst gehostetes chinesisches Open-Weight-Modell genutzt haben, das nicht denselben Einschränkungen unterlag. Open-Weight-Modelle können von Nutzern außerhalb des gehosteten Dienstes des ursprünglichen Entwicklers ausgeführt und kontrolliert werden, eine Eigenschaft, die für Sicherheitsteams nützlich sein kann, die während Untersuchungen direkten Zugriff benötigen.

Nvidia unterstützt die Open Secure AI Alliance

Nvidia erklärte, die Open Secure AI Alliance werde offene Technologien entwickeln und teilen, die darauf ausgelegt sind, Sicherheitslücken zu identifizieren, offenzulegen und zu beheben. In seiner Ankündigung sagte Nvidia, der Vorfall bei Hugging Face habe gezeigt, dass Cybersicherheitsteams zu defensiven Zwecken Zugang zu offenen, agentischen KI-Systemen auf Frontier-Niveau benötigen:

Agentische KI-Systeme können mehrstufige Aufgaben mit einem gewissen Maß an Autonomie ausführen, was sie für Cybersicherheitsabläufe wie die Entdeckung, Analyse und Reaktion auf Schwachstellen relevant macht. Dieselben Fähigkeiten werfen jedoch auch Sicherheitsbedenken auf, wenn Modelle ohne angemessene Kontrollen eingesetzt werden.

Zur Allianz gehören Nvidia, Microsoft, SpaceX, Palantir und Dutzende weitere Technologieunternehmen aus den Vereinigten Staaten und Europa. Die Mitglieder sollen gemeinsam an offenen KI-Werkzeugen arbeiten, die Cybersicherheitsforschung unterstützen und die Fähigkeit von Organisationen verbessern können, auf anspruchsvolle Angriffe zu reagieren.

Die Initiative könnte zudem die Abhängigkeit der Technologiebranche von chinesischen Open-Weight-KI-Modellen verringern.

US-Politiker prüfen Beschränkungen für chinesische KI-Modelle

Die von Nvidia unterstützte Allianz entsteht zu einem Zeitpunkt, an dem US-Politiker Maßnahmen zur Begrenzung der Nutzung chinesischer KI-Systeme prüfen.

Chinesische KI-Unternehmen sehen sich Vorwürfen ausgesetzt, Destillationstechniken genutzt zu haben, um Informationen aus fortschrittlicheren Modellen von US-Wettbewerbern zu gewinnen. Destillation bezeichnet im Allgemeinen das Training eines Modells mithilfe der Ausgaben oder Fähigkeiten eines anderen, leistungsfähigeren Systems.

US-Finanzminister Scott Bessent warnte kürzlich, dass chinesische Unternehmen, denen die Durchführung unautorisierter Destillationsangriffe vorgeworfen wird, mit Sanktionen rechnen könnten. Der zugehörige X-Beitrag ist verfügbar unter: https://x.com/SecScottBessent/status/2080008411790368895

Experten gehen davon aus, dass mögliche Beschränkungen ein Verbot für US-Unternehmen umfassen könnten, über Programmierschnittstellen Zugriff auf chinesische KI-Modelle zu erwerben. Weitere Maßnahmen könnten amerikanische Cloud-Anbieter daran hindern, diese Modelle zu hosten und Kunden für deren Nutzung Gebühren zu berechnen. Solche Regeln würden die Verfügbarkeit vertrauenswürdiger, unabhängig gehosteter Alternativen für Unternehmen wichtiger machen, die KI-Werkzeuge benötigen, aber Compliance-, Datenkontroll- oder nationale Sicherheitsanforderungen erfüllen müssen.

Offene KI-Modelle werden zu einer Sicherheitspriorität

Strenge Leitplanken können dazu beitragen, zu verhindern, dass KI-Modelle für Angriffe genutzt werden, sie können aber auch legitime defensive Arbeit einschränken. Der gemeldete Vorfall bei Hugging Face deutet darauf hin, dass Organisationen Schwierigkeiten haben könnten, sich zu schützen, wenn geschlossene Modelle Cybersicherheitsanfragen ablehnen, ohne den Unterschied zwischen einem Angreifer und einem Verteidiger zu erkennen.

Mit der neuen Allianz wollen Nvidia und seine Partner ein offenes Ökosystem aufbauen, in dem fortschrittliche KI-Sicherheitswerkzeuge entwickelt, getestet und breiter geteilt werden können. Die Initiative kommt zu einem Zeitpunkt, an dem Regierungen Beschränkungen für chinesische Modelle prüfen und Unternehmen nach sicheren Alternativen suchen, die unabhängig gehostet und kontrolliert werden können.