Nvidia Corp. und eine Koalition von Branchenführern haben die Open Secure AI Alliance gestartet, eine Initiative, die sich auf die Entwicklung offener Technologien zum Schutz von Systemen und Software für künstliche Intelligenz vor Cyberbedrohungen konzentriert.

Die Allianz soll gemeinschaftlich entwickelte Sicherheitstools für die Behebung von Schwachstellen, sichere Modellformate und Zero-Trust-Identitätsframeworks für KI-Agenten unterstützen. Ihre Gründung folgt auf jüngste KI-Sicherheitsvorfälle, darunter ein Sicherheitsproblem bei Hugging Face im Juli 2026, das Einschränkungen einiger gehosteter Frontier-KI-Modelle bei der Reaktion auf Cybervorfälle deutlich machte.

Open Secure AI Alliance startet unter dem Dach der Linux Foundation

Am 27. Juli 2026 gaben Nvidia und eine breite Gruppe teilnehmender Organisationen die Gründung der Open Secure AI Alliance bekannt. Die Initiative ist bei der Linux Foundation angesiedelt und baut auf der bestehenden Akrites-Initiative der Linux Foundation sowie auf der von der Open Source Security Foundation (OpenSSF) geleiteten Community-Arbeit auf.

Die Zusammenarbeit bringt Organisationen aus den Bereichen Cloud Computing, Cybersicherheit, Unternehmenssoftware, Open-Source-Entwicklung und KI-Forschung zusammen. Zu den Teilnehmern zählen unter anderem Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI und TrendAI.

Die Allianz will offene Tools und gemeinsame Infrastruktur entwickeln, die Verteidigern helfen können, KI-Systeme abzusichern, während die Technologie tiefer in Software, Unternehmensabläufe und kritische Infrastruktur eingebettet wird. Die Initiative spiegelt wachsende Sicherheitsbedenken rund um agentische KI-Systeme wider, die sich mit Tools, Datenspeichern und Unternehmensworkflows verbinden können. Dadurch werden Identitätskontrollen, Berechtigungen, Protokollierung und Schwachstellenmanagement zu Bestandteilen des KI-Sicherheitsstapels und nicht zu separaten Softwarefragen.

Vorfall bei Hugging Face als Beispiel für Sicherheitsbedarf angeführt

Der Sicherheitsvorfall bei Hugging Face im Juli 2026 wurde als Beispiel dafür angeführt, warum flexible, KI-gestützte Tools zur Cyberabwehr erforderlich sein könnten. Während der forensischen Untersuchung lehnten mehrere gehostete Frontier-KI-Modelle die Analyse von Angriffsartefakten ab, weil ihre Cybersicherheits-Schutzmechanismen nicht zwischen einem Verteidiger und einem Angreifer unterscheiden konnten.

Hugging Face ließ stattdessen das Open-Weight-Modell GLM 5.2 auf der eigenen Infrastruktur laufen. Laut der Darstellung der Quelle wurde das Modell verwendet, um mehr als 17.000 Aktionen zu analysieren und die Reaktion auf den Vorfall zu unterstützen.

Der Vorfall verdeutlichte ein größeres Problem für KI-Sicherheitsteams: ob defensive Fähigkeiten in einer kleinen Zahl geschlossener Systeme konzentriert bleiben sollten oder ob Organisationen auch auf offene Modelle, Harnesses und Tools setzen sollten, die von Verteidigern geprüft, angepasst und eingesetzt werden können.

Open-Source-Software unterstützt bereits wesentliche Teile von Cloud Computing, Finanzdienstleistungen, Fertigung, Telekommunikation, Regierungssystemen und Internetdiensten, indem sie Technologie für Expertengemeinschaften zugänglich und beobachtbar macht. Da KI für kritische Infrastruktur immer zentraler wird, argumentiert die Allianz, dass Sicherheitsteams Zugang zu selbst gehosteten und offenen KI-Fähigkeiten benötigen, insbesondere wenn kommerzielle Modelle bei defensiven Untersuchungen durch Sicherheitsleitplanken begrenzt sind.

Mitglieder der Allianz skizzieren technische Beiträge

Die Open Secure AI Alliance erklärt, dass KI-Sicherheit vom vollständigen Agenten-Stack abhängt, einschließlich Identität, Berechtigungen, Harnesses, Schutzmechanismen, Logs und Bewertungssystemen. Nvidia steuert offene Modelle, Modellgewichte, Daten und das Forschungsframework Nvidia Labs Object Oriented Agent (NOOA) für Agent-Harnesses bei.

HPE wird dazu beitragen, Zero-Trust-KI-Identität über SPIFFE/SPIRE voranzubringen, während Hugging Face sichere Modellgewichte über Safetensors unterstützen wird. IBM und Red Hat’s Lightwell werden daran arbeiten, die Sicherheit entlang der Open-Source-Lieferkette mithilfe digital signierter Patches auszuweiten.

Microsoft entwickelt MDASH für Schwachstellenscans von KI-Agenten, und SpaceXAI hat Grok Build als Open Source veröffentlicht, um transparente KI-Entwicklung zu fördern.

Die Allianz erklärte zudem, dass KI-Politikverantwortliche und Regulierungsbehörden offene Modelle, Harnesses und Sicherheitstools in der KI- und Cybersicherheitspolitik als defensive Ressourcen behandeln sollten. Sie warnte, dass Beschränkungen für offene Frontier-KI-Systeme die Verteidigungsfähigkeit schwächen und die Abhängigkeit von geschlossenen Anbietern erhöhen könnten.

Die Open Secure AI Alliance fordert eine gemeinsame KI-Verteidigungsinfrastruktur, darunter Datensätze, Bewertungsframeworks, Angriffssimulatoren und Red-Teaming-Tools, um widerstandsfähigere und sicherere KI-Systeme zu unterstützen. Für Sicherheitsteams, die die Initiative bewerten, wird der praktische Prüfstein sein, ob diese Beiträge zu interoperablen Tools werden, die über verschiedene Modellanbieter, Cloud-Umgebungen und KI-Implementierungen in Unternehmen hinweg eingesetzt werden können.