Open-Source-Software ist eine zentrale Säule der Weltwirtschaft. Sie bildet die Grundlage für Cloud-Computing, Finanzdienstleistungen, Fertigung, Telekommunikation, staatliche Dienste und Internetdienste, indem sie Technologie für Gemeinschaften von Experten zugänglich und beobachtbar macht.

Cybersicherheit gehört zu den drei wichtigsten Nutznießern von Open-Source-Software. Die Open Secure AI Alliance – aufbauend auf der Führung der Akrites-Initiative der Linux Foundation und der Arbeit der OpenSSF-Community – wird daran arbeiten, Schwachstellen mithilfe offener Technologien zu beheben und offenzulegen. Da KI-Systeme zunehmend in Software und Sicherheitsabläufe eingebettet werden, geht es nicht mehr nur darum, wie leistungsfähig diese Werkzeuge sind, sondern auch darum, ob Verteidiger sie schnell genug prüfen, testen und anpassen können, um mit realen Bedrohungen Schritt zu halten.

So wie Open Source eine gemeinsame Grundlage für Software geschaffen hat, stehen die Vereinigten Staaten und ihre Partner nun vor einer Entscheidung in der KI-Sicherheit: ob die Verteidigungsmaßnahmen zum Schutz unserer Infrastruktur in wenigen undurchsichtigen Systemen verbleiben oder auf offenen Modellen, Harnesses und Tools aufbauen, die jeder Verteidiger studieren, anpassen und einsetzen kann.

Die Welt braucht sowohl geschlossene als auch offene Modelle. Für die Cybersicherheit sind offene Modelle und offene Harnesses unverzichtbar, weil sie Verteidigungsfähigkeiten demokratisieren, die Transparenz für Verteidiger erhöhen, Cyberabwehr unter Wahrung der Daten ermöglichen und frontier-geschlossene Modelle mit anpassbaren, lokalisierten Kontrollen ergänzen. Open Source ermöglicht eine massiv verteilte, gemeinschaftsgetriebene und selbstkontrollierte Verteidigung – ohne einzelnen Ausfallpunkt.

Offene Modelle können, wie jede leistungsfähige Technologie, missbraucht werden – etwa durch Versuche, Schutzmechanismen zu schwächen oder Fähigkeiten für Cyberangriffe umzuwidmen – doch diese Risiken sind nicht auf offene Systeme beschränkt und müssen überall dort gemanagt werden, wo fortgeschrittene KI eingesetzt wird.

Der jüngste Sicherheitsvorfall bei Hugging Face war eine klare Erinnerung: Cyberverteidiger brauchen offene, frontierfähige agentische Systeme zur Selbstverteidigung. Als geschlossene KI-Tools, die Angreifer nicht von Verteidigern unterscheiden konnten, eine wesentliche forensische Analyse blockierten, setzte Hugging Face das Open-Weight-Modell GLM 5.2 auf der eigenen Infrastruktur ein, um mehr als 17.000 Aktionen zu analysieren und den Angriff einzudämmen.

Dieser Vorfall zeigte eine praktische Wahrheit: Wenn Verteidiger fortgeschrittene KI nicht auf ihrer eigenen Infrastruktur prüfen, anpassen und ausführen können, ist ihre Reaktionsfähigkeit genau in dem Moment eingeschränkt, in dem Geschwindigkeit am wichtigsten ist. Unternehmen und Staaten brauchen offene frontierfähige Verteidigungswerkzeuge und -techniken, damit kritische Branchen Sicherheitssysteme über ein Multi-Vendor-Ökosystem aufbauen und einzelne Ausfallpunkte vermeiden können.

Das ist die Mission der Open Secure AI Alliance: sicherzustellen, dass Verteidiger überall über offene, frontierfähige Werkzeuge verfügen, denen sie vertrauen und die sie kontrollieren können.

Führungskräfte aus Cloud-Computing, Cybersicherheit, Unternehmenssoftware, Open-Source-Stiftungen und KI-Forschung – darunter NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, die Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab und TrendAI – sind Gründungspartner der Open Secure AI Alliance, einer Bewegung zur Entwicklung und Weitergabe offener Technologien, Techniken und Tools zum Schutz von Software und Agenten im Zeitalter der KI.

Manche argumentieren, dass offene Modelle von Natur aus weniger sicher seien, weil sie für Cyberangriffe missbraucht oder zur Entfernung von Schutzmechanismen verändert werden könnten. Diese Risiken sind real, verschwinden jedoch in geschlossenen Systemen nicht, und das bloße Schließen von Gewichten verhindert nicht, dass entschlossene Angreifer leistungsfähige KI suchen oder ausnutzen.

Die richtige Antwort besteht nicht darin, Verteidigern den Zugang zu leistungsfähigen offenen Systemen zu verwehren. Sie besteht darin, Offenheit mit starken Schutzmaßnahmen, klaren Regeln gegen böswilligen Missbrauch, strenger Bewertung und schneller Behebung zu verbinden. In der Cybersicherheit ist der sicherere Weg derjenige, der mehr Verteidigern die Möglichkeit gibt, die Systeme zu testen, zu verifizieren und zu stärken, auf denen die Gesellschaft beruht.

Verteidiger brauchen sowohl frontier-geschlossene als auch frontier-offene Modelle, die zusammenarbeiten, damit sie das passende System für die jeweilige Aufgabe wählen können und sicherstellen, dass Transparenz, Anpassungsfähigkeit und souveräne Kontrolle überall dort verfügbar sind, wo die Sicherheit sie verlangt.

Offene Forschung stärkt Cybersicherheit und KI-Sicherheit

Ein KI-Agent ist nicht nur ein Sprachmodell. Er ist ein komplexes System aus Modellen, Harnesses und Schutzmechanismen.

Echte KI-Sicherheit und -Schutz hängen vom gesamten Agenten-Stack ab – Identität, Berechtigungen, Harnesses, Guardrails, Protokolle und Bewertung – und nicht nur davon, ob Modellgewichte offen oder geschlossen sind. Offene Harnesses und Tools machen diese Kontrollen für viele Verteidiger leichter prüfbar, testbar und verbesserbar.

NVIDIA trägt offene Modelle, Modellgewichte, Daten und neue Forschung zu Agent-Harnesses zur Open Secure AI Alliance bei, um die Entwicklung neuer Cybersicherheitswerkzeuge und -techniken zu beschleunigen.

Das neue Open-Source-Projekt NVIDIA Labs Object-Oriented Agent (NOOA) ist jetzt auf GitHub verfügbar, um fortgeschrittene KI-Sicherheitsfunktionen für Agent-Harnesses zugänglicher zu machen. Das NOOA-Forschungsframework ermöglicht es Harnesses, sich besser mit Modellen zu integrieren, damit sich das Verhalten von Agenten einfacher testen, nachverfolgen, auditieren und steuern lässt.

Über die gesamte Allianz hinweg bauen Mitwirkende einen offenen Verteidigungsstack für Agenten auf – von Identität und Isolation bis hin zu sicheren Modellformaten, Multi-Modell-Scanning und sicheren Coding-Workflows.

HPE trägt zu SPIFFE/SPIRE bei, das Zero-Trust-Standards und -Methoden für Identitäts-Frameworks schafft, mit denen sich KI-Agenten und -Dienste kryptografisch verifizieren lassen, um sicherzustellen, dass nur autorisierte Workloads kommunizieren und auf Unternehmensressourcen zugreifen.

Hugging Face hat Safetensors – ein sicheres Format zum Speichern von KI-Modellgewichten, das Transparenz und die Garantie bietet, dass keine Remote-Code-Ausführung möglich ist – der PyTorch Foundation angeboten.

IBM und Red Hats Lightwell erweitert die Sicherheit entlang der Open-Source-Lieferkette mit digital signierten Patches.

Microsofts MDASH Multi-Model-Agentic-Scanning-Harness orchestriert spezialisierte KI-Agenten, um ausnutzbare Fehler zu entdecken, zu diskutieren und zu belegen.

SpaceXAI hat den terminalbasierten KI-Coding-Agenten Grok Build als Open Source veröffentlicht, um Vertrauen, Transparenz und neue Fähigkeiten zu fördern, und plant, die Gewichte der Grok-Modellreihe als Open Source bereitzustellen, um Entwickler- und Forschungscommunitys zu unterstützen.

Ein Aufruf an politische Entscheidungsträger und Regulierer

Während politische Entscheidungsträger und Regulierer sich mit KI-Sicherheit befassen, wird es entscheidend sein, offene Modelle, Harnesses und Sicherheitstools in der Politik zu KI und Cybersicherheit als defensive Vermögenswerte und nicht als Belastung zu erkennen. Pauschale Beschränkungen offener frontier-KI-Systeme würden die Verteidigungsfähigkeit schwächen und das Risiko erhöhen, Macht, Abhängigkeit und Verwundbarkeit bei wenigen geschlossenen Anbietern zu konzentrieren.

Unternehmen und Regierungen sollten in gemeinsame offene Infrastruktur für die KI-Verteidigung investieren – Datensätze, Bewertungsrahmen, Angriffssimulatoren und Red-Teaming-Tools –, so wie frühere Generationen in Open-Source-Software investiert haben.

Die Zukunft, die wir bauen sollten

Das Zeitalter der KI-Agenten kann eines der Resilienz und der gemeinsamen Sicherheit sein. Mit den richtigen Entscheidungen können offene, sichere KI-Systeme Verteidigern die Werkzeuge geben, die sie benötigen, den Wettbewerb stärken, die technologische Führungsrolle ausbauen und sicherstellen, dass Sicherheit und Schutz dieser außergewöhnlichen Technologie offen für alle entwickelt werden.

Diese Zukunft wird nicht dadurch gesichert, dass man davon ausgeht, Geheimhaltung allein sei Sicherheit. Sie wird gesichert, indem Systeme gebaut werden, die stark genug sind, der Prüfung standzuhalten, flexibel genug, um verbessert zu werden, und offen genug, um die gesamte Gemeinschaft der Verteidiger zu mobilisieren.

Diese Zukunft ist es wert, gebaut zu werden – und die Open Secure AI Alliance lädt Regierungen, Industrie und Forschende ein, sich gemeinsam der Arbeit zum Schutz des KI-Zeitalters anzuschließen.

Erfahren Sie mehr oder bekunden Sie Ihr Interesse, der Open Secure AI Alliance beizutreten.