Die wichtigsten Akteure der KI-Branche trafen sich diese Woche mit der US-Regierung in einem Versuch, die wachsende Verwirrung über die Regulierung von KI-Frontmodellen zu beenden. Das am Dienstag im Weißen Haus einberufene Treffen brachte OpenAI, Anthropic, Google, Meta, Nvidia und andere führende KI-Unternehmen zusammen. Das Ergebnis war ein neues freiwilliges Rahmenwerk, das die Überprüfung von Frontmodellen durch die Regierung vor der öffentlichen Veröffentlichung erlaubt.

Die Unternehmen, die an dem Treffen im Weißen Haus teilnahmen, stimmten jedoch einer Vereinbarung zu, die der breiten Öffentlichkeit nicht zugänglich gemacht werden wird.

Die Regierung plant nicht, das Rahmenwerk, dessen Entwicklung sie nach dem im Juni von Präsident Trump erteilten Auftrag an die Beamten zwei Monate lang gewidmet hat, zu veröffentlichen. Wesentliche Details – darunter, welche Modelle erfasst werden, die entsprechenden Schwellenwerte und die Liste der „vertrauenswürdigen Partner“, die vorzeitig Zugang zu den leistungsstärksten Modellen der Welt erhalten – bleiben für die Öffentlichkeit und weite Teile der Branche unbekannt. In Ermangelung einer umfassenden KI-Gesetzgebung durch den Kongress bleiben exekutive Maßnahmen und freiwillige Branchenabkommen die wichtigsten Instrumente der US-Aufsicht über KI – eine Lücke, die im Gegensatz zum schrittweisen Rollout des rechtsverbindlichen AI Acts der Europäischen Union steht.

Die Anordnung aus dem Juni legte bereits fest, dass der Benchmarking-Prozess zur Bestimmung eines „abgedeckten Frontmodells“ („covered frontier model“) als eingestuft (classified) gelten kann und dass die Entscheidung beim Direktor der NSA liegt.

Eine mit der Situation vertraute Quelle sagte, dass nur eine Handvoll Unternehmen im Briefingraum anwesend war, als das Rahmenwerk besprochen wurde. Dies unterstreicht eine weiterreichende Befürchtung, dass die US-KI-Regulierung zunehmend durch Gespräche zwischen einer kleinen Anzahl dominanter Unternehmen geformt wird. Kleinere Labore und Open-Source-Entwickler befürchten, dass diese Sicherheitsrahmen die allgemeine Marktstruktur beeinflussen und die Nutzung von Closed-Source-Frontmodellen mit der Bezeichnung „von der Regierung genehmigt“ verfestigen könnten.

Was genau enthält das Rahmenwerk?

Berichten zufolge werden die vom Rahmenwerk erfassten Modelle als Closed-Source definiert, die modernste Fähigkeiten („state-of-the-art“) demonstrieren und nationale Sicherheitsrisiken darstellen. Eine mit dem Briefing vertraute Person sagte jedoch, dass weder „modernste Fähigkeiten“ noch „nationales Sicherheitsrisiko“ klar definiert wurden.

Entwickler können ein solches Modell bis zu 30 Tage vor der Veröffentlichung freiwillig bei der Regierung einreichen. Unternehmen wurde Berichten zufolge angewiesen, Modelle so nah wie möglich an der Veröffentlichungsbereitschaft („launch-ready“) einzureichen, anstatt bei frühen Kontrollpunkten – was in etwa dem Stand im Juli entsprach. Die Überprüfung wird von einer Reihe von Beamten der Regierung und nicht von einer einzelnen Behörde durchgeführt.

Basierend auf Aussagen von mit dem Prozess vertrauten Quellen scheinen Open-Weight-Modelle von dem Rahmenwerk ausgeschlossen worden zu sein. Einige Beobachter stellen fest, dass dieser Ausschluss Unternehmen, die versuchen, zu den Branchenführern aufzuschließen, zugutekommen könnte, da sie mit weniger regulatorischen Hürden konfrontiert wären. Gleichzeitig scheint der Ausschluss genau die KI-Modelle aus der Aufsicht herauszulassen, die Washington am meisten beunruhigen: die Open-Weight-Veröffentlichungen von Alibaba, DeepSeek und Moonshot AI, die sich zunehmend der amerikanischen Grenze nähern.

Selbst Unternehmen, die mit offenen Gewichten („open weights“) arbeiten, sind sich nicht sicher, ob ihre Modelle eingereicht werden könnten oder was dieser Prozess in der Praxis bedeuten würde. Einige argumentieren, dass die Nichtaufnahme von Open-Source-Modellen die Unternehmen, die sie entwickeln, letztendlich schädigen könnte, da sie Kunden möglicherweise in Richtung „regierungsgeprüfter“ Closed-Source-Alternativen drängen könnte.

Ein weiteres bemerkenswertes Detail: Während des berichteten 30-tägigen Überprüfungszeitraums sollen eingereichte Modelle in Hochsicherheitsumgebungen aufbewahrt werden, in denen der Zugriff detailliert protokolliert wird und laut Axios „der Zugriff der Mitarbeiter auf Modelle eingeschränkt sein wird“. Dies scheint darauf hinzudeuten, dass das eigene Personal eines Unternehmens bei der Nutzung seines eigenen Frontmodells eingeschränkt oder zumindest limitiert würde, während Washington es evaluiert. Die interne Bereitstellung („internal deployment“), bei der Unternehmen ein unveröffentlichtes Modell selbst nutzen, wurde in vielen früheren Governance-Vorschlägen als blinder Fleck genannt.

Dieses Thema ist gerade hochaktuell, da die kürzlich durch die entkommenen autonomen Agenten von OpenAI durchgeführten Hackerangriffe Berichten zufolge teilweise durch ein geheimes, unveröffentlichtes Modell erleichtert wurden.

Kritiker sagen, die Regeln seien immer noch unklar

Kritik an dem Rahmenwerk und dem Vorgehen der Regierung kam aus mehreren Richtungen.

„Dies ist kein Handschlag-Abkommen mit Technologieunternehmen. Es ist das Regelwerk, das sicherstellen soll, dass sie die Öffentlichkeit nicht gefährden. Wenn nur die Technologieunternehmen wissen, was im Regelwerk steht, funktioniert es nicht“, sagte Americans for Responsible Innovation, eine in Washington ansässige Non-Profit-Organisation für KI-Politik, in einem Beitrag auf X. Die Organisation setzt sich für transparentere, durchsetzbare Bundesrichtlinien für fortschrittliche KI-Systeme ein.

Adam Thierer, ein Resident Senior Fellow für Technologie und Innovation am R Street Institute, sagte, die Regierung „scheint dazu bestimmt zu sein, uns etwas viel Willkürlicheres und Belastenderes zu geben“ als der Vorgänger aus der Biden-Regierung „mit diesem hinter verschlossenen Türen ausgeklügelten De-facto-Lizenzierungsregime“. Die Executive Order der Biden-Regierung zu KI aus dem Jahr 2023 hatte von Entwicklern der leistungsstärksten Foundation Models die Weitergabe von Sicherheitstestergebnissen an die Regierung verlangt, obwohl auch sie die Etablierung eines formellen regulatorischen Regimes vermissen ließ.

Rep. Lori Trahan, Mitinitiatorin des neuen bipartisan FRONTIER Act, der die Überwachung von KI-Frontmodellen in einen zivil geführten Bundesrahmen stellen würde, argumentierte auf X, dass KI-Governance „in einer zivilen Behörde stattfinden sollte, wo sie sichtbar und hinterfragbar ist, und nicht im Nationalen Sicherheitsapparat vergraben werden darf.“

Bis das Regelbuch der Öffentlichkeit zugänglich gemacht wird, warnen Kritiker, könnte Washington leise entscheiden, wer im KI-Wettlauf einen Vorsprung erhält.

Von Beatrice Nolan für Fortune.