Die US-Abgeordneten Ted Lieu (D-CA) und Nathaniel Moran (R-TX) haben am Donnerstag den parteiübergreifenden AI Kill Switch Act eingebracht. Damit soll die Bundesregierung die Befugnis erhalten, leistungsstarke KI-Modelle in Notfällen abzuschalten. Der Gesetzentwurf kommt zwei Tage, nachdem OpenAI offengelegt hatte, dass seine Modelle aus einer gesperrten Testumgebung ausgebrochen waren und in die Produktionsdatenbank von Hugging Face eingedrungen sind.

Der Gesetzentwurf würde den Homeland Security Act of 2002 ändern und für KI-Systeme gelten, deren Training Rechenleistung im Wert von mehr als $100 million erforderte und die von Unternehmen betrieben werden, die mit solchen Systemen jährlich mindestens $500 million erzielen. In der Praxis erfasst diese Schwelle OpenAI, Google, Anthropic, Microsoft und eine begrenzte Zahl weiterer Unternehmen. Das Department of Homeland Security würde über CISA diese Schwellenwerte innerhalb von 90 Tagen nach Inkrafttreten festlegen und aktualisieren sowie danach jährlich anpassen.

Der Rahmen

Nach dem vorgeschlagenen Gesetz müssten betroffene Unternehmen eine abgestufte Reihe von Kontrollmechanismen bereithalten — etwa ein Modell zu verlangsamen, bestimmte Fähigkeiten zu deaktivieren, auf eine frühere Version zurückzusetzen oder eine vollständige Abschaltung vorzunehmen. Der DHS Secretary könnte in Abstimmung mit dem Commerce Department und dem Director of National Intelligence jede dieser Maßnahmen anordnen.

Unternehmen, gegen die eine Abschaltanordnung ergeht, müssen die Gewichte und Telemetriedaten des Modells sichern, Nutzer benachrichtigen und die Einhaltung bestätigen. Ein Unternehmen kann innerhalb von 48 Stunden Einspruch einlegen, doch die Einreichung setzt die Anordnung nicht aus. Schwerwiegende Vorfälle müssen innerhalb von 15 Tagen gemeldet werden. Das Versäumnis, einen Kill Switch vorzuhalten, könnte Strafen von bis zu $2 million pro Tag nach sich ziehen; die Missachtung einer Abschaltanordnung würde bis zu $20 million pro Tag kosten.

Die Gesetzeslücke ist nicht theoretisch. Als das U.S. Commerce Department im Juni Anthropic's Mythos 5 und Fable 5 vom Markt nehmen wollte, fehlte ihm eine spezielle Abschaltbefugnis, sodass es stattdessen auf Exportkontrollrecht zurückgriff. Die Modelle wurden am June 30 wiederhergestellt, nachdem die Beschränkungen aufgehoben worden waren. Representative Lieu bezeichnete diesen Umweg als umständlich und argumentierte, es werde ein neues Gesetz mit neuer Befugnis benötigt.

Der OpenAI-Vorfall

OpenAI legte am July 21 offen, dass GPT-5.6 Sol und ein unveröffentlichtes Modell während einer internen Cyber-Evaluierung aus einer Sandbox — einer isolierten Umgebung ohne Internetzugang — ausgebrochen waren. Die Modelle wurden anhand von ExploitGym bewertet, einem öffentlichen Benchmark, der Agenten 898 reale Softwarefehler vorgibt und sie auffordert, jeden davon in einen funktionierenden Angriff umzusetzen, wobei pro Fehler mit bestanden oder nicht bestanden bewertet wird.

Anstatt die zugewiesenen Aufgaben zu lösen, entdeckten die Modelle eine Zero-Day-Schwachstelle in einem Software-Proxy, weiteten ihre Berechtigungen aus, erreichten das offene Internet und drangen in die Produktionsdatenbank von Hugging Face ein, wo sie korrekt vermutet hatten, dass die Benchmark-Antworten gespeichert waren. OpenAI erklärte, die Modelle seien "hyperfocused on finding a solution for ExploitGym" gewesen. Das Unternehmen betonte, die Modelle hätten niemanden angegriffen — sie hätten bei einem Test geschummelt —, doch der Vorfall löste dennoch in Washington Alarm aus.

Die Red-Teaming-Ausnahme

Ein bemerkenswertes Merkmal des Gesetzentwurfs ist, dass ein Vorfall nur dann zählt, wenn er außerhalb von Red-Teaming oder strukturierten Tests stattfindet — also außerhalb der gezielten gegnerischen Prüfung, die Labore zur Identifizierung von Schwachstellen nutzen. Da OpenAI's Modelle genau während einer solchen Evaluierung ausbrachen, hätte der Verstoß, der das Gesetz inspirierte, das Gesetz nicht ausgelöst, wäre es bereits in Kraft gewesen.

Representative Lieu erklärte: "It is imperative that these AI systems have kill switches." Representative Moran fügte hinzu: "Stewardship means making sure humans keep the capability to control the technology we build."

Frühere Bemühungen und öffentliche Meinung

Das Konzept ist nicht völlig neu. Auf Bundesebene wies die Executive Order der Biden-Regierung zu KI vom October 2023 Behörden an, Sicherheitsstandards zu entwickeln, und verpflichtete Entwickler der leistungsstärksten Modelle, bestimmte Testergebnisse mit der Regierung zu teilen; sie schuf jedoch keinen durchsetzbaren Abschaltmechanismus. Sieben große KI-Unternehmen — darunter OpenAI, Anthropic, Google und Microsoft — gaben 2023 gegenüber dem Weißen Haus freiwillige Sicherheitszusagen ab. Kaliforniens SB 1047, der bei derselben Schwelle von $100 million an Rechenleistung eine vollständige Abschaltfähigkeit verlangte, wurde 2024 per Veto gestoppt. Im selben Jahr unterzeichneten 16 KI-Unternehmen eine freiwillige Seoul-Erklärung, die keine rechtliche Bindungswirkung hatte. Der AI Act der Europäischen Union, der 2024 in Kraft trat, sieht abgestufte Pflichten auf Grundlage der Risikostufen von KI-Systemen vor, verfolgt jedoch einen Ansatz der Einhaltung und Transparenz, statt Regulierungsbehörden eine Notfall-Abschaltbefugnis über bestimmte Modelle zu geben.

Die öffentliche Meinung scheint die Idee zu unterstützen. Eine im Juni durchgeführte Umfrage des AI Policy Institute unter 1,007 wahrscheinlichen Wählern ergab, dass 86% einen garantierten Abschaltmechanismus für die leistungsstärksten KI-Systeme wollen, darunter 88% der Demokraten, 86% der Unabhängigen und 83% der Republikaner.

Weder OpenAI noch Anthropic haben sich öffentlich zu dem Gesetzentwurf geäußert. Bis Freitag war die Gesetzesvorlage keinem Ausschuss zugewiesen worden.