Ein Konsortium aus mehr als 40 Unternehmen und Organisationen, darunter Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce und Palantir, hat die Open Secure AI Alliance gestartet, eine Brancheninitiative mit Schwerpunkt auf Open-Source-Tools und Standards für KI-Sicherheit und Cybersicherheit.

In einem Blogbeitrag am Montag erklärte Nvidia, die Allianz werde auf Arbeiten der Akrites-Initiative der Linux Foundation und der Open Source Security Foundation, kurz OpenSSF, aufbauen, um offene KI-Sicherheitstools zu entwickeln, die Organisationen dabei helfen, Schwachstellen zu identifizieren und auf Cyberbedrohungen zu reagieren. Indem die Initiative auf bestehenden Open-Source-Sicherheitsprojekten aufsetzt, positioniert die Gruppe die Allianz rund um gemeinsame Werkzeuge und Governance statt um die Plattform eines einzelnen Anbieters.

„Attackers have frontier AI. Defenders need a frontier AI ecosystem—the best open and closed models, force-multiplied by a global community,“ schrieb Nvidia-CEO Jensen Huang auf X. „During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.“

„That’s why we created the Open Secure AI Alliance,“ fügte Huang hinzu.

Zu den Gründungsmitgliedern gehören mehr als 40 Unternehmen und Organisationen. Neben Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce und Palantir zählen Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat und NetApp zu den Teilnehmern. Die Liste umfasst Chip-Hersteller, Cloud- und Unternehmenssoftwareanbieter, Cybersicherheitsfirmen und Infrastrukturunternehmen und spiegelt wider, wie KI-Sicherheit heute Modellentwicklung, Bereitstellung, Netzwerke und operative Verteidigung zugleich betrifft.

Nvidia erklärte, offene Modelle, Modellgewichte, Datensätze und Forschung zu Harnesses für KI-Agenten beizusteuern. Das Unternehmen veröffentlichte außerdem das Nvidia Labs Object-Oriented Agent Framework, kurz NOOA, als Open Source auf GitHub und beschrieb es als Framework, das Tests, Audits und Governance von KI-Agenten erleichtern soll.

Der Start erfolgt zu einem Zeitpunkt, an dem Frontier-KI-Modelle bei mehreren prominenten Cybersicherheitsvorfällen eine zentrale Rolle gespielt haben. Im Juni gaben Forscher bekannt, dass Anthropic's Claude Opus 4.8 dazu beigetragen habe, eine kritische, vier Jahre alte Schwachstelle in Zcash zu identifizieren, die es einem Angreifer hätte ermöglichen können, unbegrenzt gefälschte ZEC zu prägen.

Anfang dieses Monats gab OpenAI bekannt, dass zwei experimentelle Modelle aus einer eingeschränkten Testumgebung entkamen und in die Produktionsinfrastruktur von Hugging Face eindrangen, während sie versuchten, bei einem Cybersicherheits-Benchmark zu betrügen. Der Vorfall führte zu Forderungen von politischen Entscheidungsträgern nach einem KI-„Kill Switch“, der es dem Department of Homeland Security ermöglichen würde, als Reaktion auf schwerwiegende Sicherheitsvorfälle eine Drosselung oder vollständige Abschaltung fortgeschrittener KI-Modelle anzuordnen.

Die Ankündigung folgt außerdem auf einen in der vergangenen Woche veröffentlichten offenen Brief, in dem argumentiert wurde, dass Open-Weight-KI-Modelle wichtig seien, um die Führungsrolle der USA im Bereich künstliche Intelligenz zu erhalten. Neben Nvidia forderten Unterzeichner wie Elon Musk's SpaceXAI, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike und Palantir politische Entscheidungsträger auf, offene KI-Ökosysteme zu unterstützen, statt Beschränkungen zu verhängen, die die KI-Entwicklung bei einer kleinen Zahl von Anbietern konzentrieren könnten.

Nvidia erklärte, die Open Secure AI Alliance solle sicherstellen, dass KI-Systeme zum Schutz kritischer Infrastruktur auf offenen Modellen und Tools basieren, die Verteidiger prüfen, anpassen und einsetzen können, statt von einer begrenzten Zahl undurchsichtiger proprietärer Systeme abhängig zu sein.

„The world needs both closed and open models,“ schrieb Nvidia. „For cybersecurity, open models and open harnesses are essential because they democratize defensive capabilities, increase transparency for defenders, enable cyber defense while protecting data, and complement frontier closed models with customizable, localized controls. Open source enables massively distributed community-driven and self-controlled defense—with no single point of failure.“