Anthropic hat US-Gesetzgebern einen Entwurf für ein bundesweites KI-Sicherheitsgesetz vorgelegt. Die erste große Auseinandersetzung dreht sich um eine einzelne Zahl: 10²⁵ FLOPs.

Diese Schwelle würde bestimmen, welche KI-Modelle gemäß dem Vorschlag als „Frontier“-Systeme gelten. FLOPs, also Gleitkommaoperationen, messen die Rechenleistung, die zum Trainieren eines Modells eingesetzt wird. Wo diese Grenze gezogen wird, entscheidet daher, welche Systeme und Entwickler in den Geltungsbereich der Compliance fallen und welche außerhalb bleiben. Kritiker sagen, die Zahl spiegele eine frühere Entwicklungsphase der KI wider und könnte inzwischen die meisten Modelle für Unternehmen erfassen.

Was der Entwurf vorsieht

Der Vorschlag baut auf Anthropics Advanced AI Framework auf, das das Unternehmen im Juni 2026 vorgestellt hat. Der Gesetzentwurf selbst stammt aus dem Oktober 2026.

Sein zentraler Begriff ist der „covered developer“. Ein Unternehmen würde darunterfallen, wenn es ein Modell mit mehr als 10²⁵ FLOPs trainiert und mindestens einen von zwei finanziellen Schwellenwerten erreicht.

Der erste Schwellenwert liegt bei mehr als 500 Millionen US-Dollar jährlichen KI-bezogenen Einnahmen. Der zweite bei mehr als 1 Milliarde US-Dollar jährlichen Ausgaben für Forschung und Entwicklung im KI-Bereich.

Unternehmen, die diese Definition erfüllen, müssten mehrere Transparenzanforderungen erfüllen, darunter:

• Einführung formaler Sicherheitsrahmen
• Veröffentlichung von Systemkarten, die dokumentieren, wie Modelle funktionieren und wie sie getestet wurden
• Ermöglichung unabhängiger Prüfungen
• Meldung von Sicherheitsvorfällen

Das Gesetz würde außerdem die Befugnisse der Regierung begrenzen. Das Handelsministerium könnte den Einsatz eines Modells nur dann einschränken, wenn katastrophale Risiken absehbar sind. Der Entwurf definiert katastrophale Vorfälle als solche, die Schäden von mehr als 1 Milliarde US-Dollar verursachen oder zum Verlust von mehr als 50 Menschenleben führen.

Andere Behörden dürften den Einsatz insgesamt nicht stoppen.

Warum die Schwelle von 10²⁵ FLOPs umstritten ist

Bis Juni 2025 hatten bereits mindestens 33 Modelle von 12 Entwicklern die Marke von 10²⁵ FLOPs überschritten. Diese Zahl dürfte weiter steigen.

Vergleiche mit anderen Regulierungsrahmen verdeutlichen die Debatte. Californias SB 53 setzt seine Auslöseschwelle bei 10²⁶ FLOPs an und damit zehnmal höher als Anthropics Schwelle. Jede Erhöhung des Exponenten um eins entspricht einer Verzehnfachung, wodurch der Unterschied erheblich ist.

Der EU AI Act liegt näher an Anthropics Ansatz. Er verwendet 10²⁵ FLOPs als widerlegbare Vermutung: Bei einem Modell, das dieses Niveau erreicht, wird ein systemisches Risiko vermutet, sofern der Entwickler nicht das Gegenteil nachweist. Anthropics Vorschlag würde eher wie eine verbindliche Compliance-Schwelle funktionieren.

Kritik kommt auch aus der entgegengesetzten Richtung. Einige Kritiker sagen, der Entwurf sei enger gefasst und könnte schwächer sein als konkurrierende Vorschläge, darunter der FRONTIER Act (H.R. 9925), insbesondere im Hinblick auf die Befugnis zur Regelsetzung.

Folgen für Start-ups, etablierte Labore und Gesetzgeber

Der mögliche Vorteil für etablierte Unternehmen ist eine der folgenreichsten Kritiken. Compliance-Maßnahmen wie Sicherheitsrahmen, Systemkarten und unabhängige Prüfungen erfordern Geld und Arbeitszeit. Große KI-Labore verfügen bereits über Teams, die einen Großteil dieser Arbeit übernehmen, während kleinere Unternehmen dies im Allgemeinen nicht tun.

Dennoch ist der zweiteilige Test des Gesetzes von Bedeutung. Das Überschreiten von 10²⁵ FLOPs allein würde ein Unternehmen noch nicht zu einem „covered developer“ machen. Es müsste zusätzlich mehr als 500 Millionen US-Dollar KI-Umsatz oder mehr als 1 Milliarde US-Dollar Ausgaben für KI-Forschung und -Entwicklung verzeichnen.

Für Gesetzgeber macht die Debatte ein strukturelles Problem rechenleistungsbasierter Regeln sichtbar. Jeder feste FLOP-Schwellenwert kann veralten, wenn sich die Hardware verbessert und Trainingsläufe umfangreicher werden. Eine heute festgelegte Grenze könnte morgen Dutzende von Modellen erfassen. Das entspricht im Großen und Ganzen der Zahl der Modelle, die die Schwelle bereits bis Juni 2025 überschritten hatten.

Auch das begrenzte Mandat des Handelsministeriums ist von Bedeutung. Die Beschränkung von Eingriffen auf katastrophale Szenarien, definiert durch Schäden von mehr als 1 Milliarde US-Dollar oder mehr als 50 Todesopfer, sorgt für größere Vorhersehbarkeit für Entwickler. Gleichzeitig lässt sie den Regulierungsbehörden wenig Spielraum, um Schäden zu bekämpfen, die unterhalb einer Katastrophe liegen. Dieser Zielkonflikt steht im Zentrum des Vergleichs mit dem FRONTIER Act.

Die Auslöseschwelle, der zweiteilige finanzielle Test und der Umfang der Regelsetzungsbefugnis des Handelsministeriums sind daher die Punkte, an denen sich Anthropics Entwurf von den bereits vorliegenden Alternativen unterscheidet: der höheren Schwelle von 10²⁶ FLOPs in Kalifornien, dem vermutungsbasierten Ansatz des EU AI Act und dem FRONTIER Act, den einige Kritiker bei der Regelsetzung für stärker halten.

Quelle: CryptoBriefing