Anthropic, OpenAI und Google haben laut einem Bericht von The Information die Gründung einer gemeinsamen Branchenorganisation für Standards erörtert. Die geplante Organisation würde großen Frontier-KI-Laboren die Möglichkeit geben, die Sicherheitsstandards festzulegen, anhand derer ihre eigenen Modelle bewertet werden.

Gemeinsame Standards könnten Unternehmen mehr Sicherheit bei der Entscheidung geben, ob sie Frontier-Modelle für sensible Aufgaben einsetzen. Gleichzeitig könnte derselbe Rahmen die Position der größten KI-Unternehmen stärken. Die OECD hat zuvor gewarnt, dass hohe Fixkosten, ein begrenzter Zugang zu Rechenressourcen und eine konzentrierte Infrastruktur neuen Unternehmen bereits den Eintritt in den KI-Markt erschweren. Zusätzliche Compliance-Kosten könnten für kleinere Labore eine weitere Hürde darstellen, wie in ihrem Bericht zu Märkten für künstliche Intelligenz festgestellt wird.

Vorschläge, die bereits diskutiert werden

Am 14. Juli schlug Demis Hassabis, Leiter von Google DeepMind, die Gründung einer in den USA ansässigen Frontier AI Standards Body vor, die der Financial Industry Regulatory Authority beziehungsweise FINRA nachempfunden ist. Hassabis erläuterte den Vorschlag in einem X-Beitrag.

Nach seinem Plan würden Frontier-Labore fortschrittliche Technologien freiwillig zur Bewertung einreichen, wobei die Prüfungen in einem Zeitraum von 30 Tagen vor der Veröffentlichung stattfinden würden. Die Prüfer würden untersuchen, ob von den Technologien Risiken in Bereichen wie Cybersicherheit, biologischen Bedrohungen oder Manipulation ausgehen.

Der Council on Foreign Relations (CFR) berichtete, dass das Weiße Haus Hassabis’ Vorschlag bereits prüfe. Dem Plan zufolge würde das Bestehen der Bewertung erst zu einem späteren Zeitpunkt für Unternehmen verpflichtend werden, die Frontier-Technologien in den Vereinigten Staaten einsetzen wollen. Der CFR erörterte den Vorschlag und damit verbundene regulatorische Fragen in seiner Analyse „The U.S. Is About to Design an AI Regulator. Here’s How to Get It Right“.

Dario Amodei, CEO von Anthropic, betrachtete das Thema in seinem September-Artikel „We Must Pace the Frontier“ aus einer anderen Perspektive. Seiner Ansicht nach benötigen Sicherheitsmaßnahmen zusätzliche Zeit, um mit den Fortschritten bei den KI-Fähigkeiten Schritt zu halten. Amodei schlug vor, unabhängigen Prüfern wie METR zu erlauben, längere Zeit in Frontier-Laboren zu verbringen. Dies würde eine Grundlage für die Zusammenarbeit großer KI-Unternehmen in demokratischen Ländern bei Sicherheitsstandards schaffen.

Frühere branchengeführte Initiativen

Von der Branche geführte Organisationen für KI-Sicherheit sind nicht neu. 2023 wurde das Frontier Model Forum mit sechs großen KI-Unternehmen gegründet, um im Rahmen eines mehr als USD 10 Millionen umfassenden AI Safety Fund ein unabhängiges Sicherheitsforschungsprogramm aufzubauen.

Die Agentic AI Foundation wurde im Dezember 2025 unter dem Dach der Linux Foundation gegründet, um offene Standards und Infrastrukturen für KI-Agenten zu entwickeln. Zu den beitragenden Projekten gehören Anthropic’s Model Context Protocol, Block’s goose und OpenAI’s AGENTS.md.

OpenAI war außerdem an der Gründung der Appia Foundation beteiligt, die im Juni 2026 mit 13 Mitgliedern ins Leben gerufen wurde. Die Stiftung will allgemeine Grundsätze der KI-Governance in Spezifikationen, Tests und Konformitätsnachweise für den Einsatz entlang der gesamten KI-Lieferkette überführen. OpenAI hat seine Arbeit an gemeinsamen Standards in der offiziellen Ankündigung „Helping Build Shared Standards for Advanced AI“ beschrieben.

Der Ruf nach Koordination geht über Branchenorganisationen hinaus. Wie Cryptopolitan zuvor berichtete, erklärte Chris Lehane, Leiter der globalen Angelegenheiten bei OpenAI, dass die Vereinigten Staaten und China einen globalen Rahmen für KI-Sicherheit unterstützen sollten. Er verglich die Initiative mit der internationalen Zusammenarbeit im Nuklearbereich. Der Bericht von Cryptopolitan befasste sich mit seinen Äußerungen.

Bedenken hinsichtlich Unabhängigkeit, Kapazität und Wettbewerb

Die Unabhängigkeit bleibt ein zentrales Problem. Laut der Analyse des CFR könnte eine von der von ihr beaufsichtigten Branche finanzierte Aufsichtsbehörde mit ähnlichen Interessenkonflikten konfrontiert sein wie beim kreditratingsystem, bei dem der Emittent vor der Finanzkrise von 2008 die Ratingagentur bezahlt. Zudem bleiben Fragen zum Zugang der Aufsichtsbehörden zu Frontier-Modellen, zur Fachkompetenz der Prüfer, zu Schutzmaßnahmen für die nationale Sicherheit und zur Zuverlässigkeit bestehender Testmethoden offen.

Auch die Kapazität stellt eine Herausforderung dar. Eine Prognose von GovAI schätzt, dass zwischen 2025 und 2028 14–16 Modelle eine mit dem bisher größten Trainingslauf vergleichbare Größenordnung erreichen könnten. Diese Prognose deutet auf einen Bedarf an kontinuierlichen Prüfungskapazitäten hin, statt sich allein auf regelmäßige Einzelbewertungen zu verlassen.

Auch der Wettbewerb ist ein wichtiger Faktor. Standards, die hauptsächlich von den größten Laboren festgelegt werden, könnten zu Fixkosten werden, die etablierte Unternehmen leichter tragen können als Start-ups. Sollte ein freiwilliger Rahmen verpflichtend werden, wären Mechanismen erforderlich, um zu verhindern, dass die Einhaltung von Sicherheitsvorgaben zu einer Markteintrittsbarriere wird.

Jeder neue Rahmen müsste außerdem mit den bestehenden europäischen Governance-Bemühungen abgestimmt werden. Der General-Purpose AI Code of Practice der Europäischen Union, der im Juli 2025 als freiwillige Möglichkeit zur Demonstration der Einhaltung des AI Act eingeführt wurde, führt Anthropic, Google, Microsoft und OpenAI bereits als Unterzeichner. Die EU-Informationsseite enthält Einzelheiten zu dem Kodex. Eine neue US-amerikanische oder branchengeführte Organisation für Standards würde daher in eine bereits überfüllte Governance-Landschaft eintreten, anstatt eine solche von Grund auf zu schaffen. Die praktische Bedeutung des Rahmens würde folglich davon abhängen, wie seine freiwilligen Bewertungen, unabhängigen Prüfungsregelungen und sein Verhältnis zu bestehenden Vorschriften ausgestaltet werden.