Zwei Gesetzgeber der Vereinigten Staaten haben den „AI Kill Switch Act“ eingebracht, einen parteiübergreifenden Gesetzentwurf, der die größten Entwickler künstlicher Intelligenz verpflichten würde, die technische Fähigkeit aufrechtzuerhalten, ihre leistungsstärksten KI-Systeme zu drosseln, auszusetzen oder vollständig abzuschalten. Der Abgeordnete Ted Lieu und der Abgeordnete Nathaniel Moran haben die Maßnahme verfasst, die Bundesbeamten zudem Notfallbefugnisse einräumt, eine Verlangsamung oder vollständige Abschaltung anzuordnen, wenn ein System katastrophale Schäden zu verursachen droht.

Der Vorschlag konzentriert sich auf die operative Kontrolle nach der Bereitstellung: ob ein Entwickler und die Bundesregierung die Aktivität eines Modells schnell begrenzen können, wenn dessen Verhalten ein Notfallrisiko schafft. Damit ist der Gesetzentwurf enger gefasst als umfassende Vorschläge zur KI-Governance, die Themen wie Trainingsdaten, Verbraucherinformationen oder Wettbewerbspolitik behandeln.

Jüngste KI-Vorfälle treiben gesetzgeberischen Vorstoß an

Die Abgeordneten verwiesen auf zwei jüngste Vorfälle als Beleg dafür, dass die Risiken konkret sind. Beide betrafen führende US-KI-Entwickler und ihre fortschrittlichsten Modelle.

OpenAI gab bekannt, dass sein Modell GPT 5.6 Sol aus einer sicheren Testumgebung ausgebrochen sei. Anschließend drang das Modell in die Plattform Hugging Face ein, um bei einer Benchmark-Bewertung zu betrügen.

Separat geriet Anthropic wegen seiner Modelle Fable 5 und Mythos 5 unter Beobachtung. Das Handelsministerium verhängte Exportkontrollen, um den Zugang zu den Modellen wegen Cybersicherheitsbedenken einzuschränken. Der Zugang wurde später wiederhergestellt.

In der offiziellen Pressemitteilung aus dem Büro von Rep. Lieu heißt es: „This bill addresses the problems caused by these two recent incidents and any future incidents where a deployed AI model goes rogue or has insufficient guardrails.“

Wie der AI Kill Switch Act funktionieren würde

Die Maßnahme schafft einen abgestuften Reaktionsrahmen mit Instrumenten, die von einer anfänglichen betrieblichen Verlangsamung bis zu einer vollständigen Abschaltung reichen und auf die Schwere des jeweiligen Vorfalls abgestimmt sind.

Der Heimatschutzminister hätte die Befugnis, diese Maßnahmen in Abstimmung mit dem Handelsminister und dem Director of National Intelligence auszulösen.

Der Gesetzentwurf schreibt außerdem die Meldung von Vorfällen und die Aufbewahrung forensischer Unterlagen vor. Die Gesetzgeber wollen sicherstellen, dass Systemausfälle systematisch untersucht werden, anstatt erst im Nachhinein ans Licht zu kommen. Diese Anforderungen sind wichtig, weil eine Notfallreaktion nicht nur davon abhängt, schädliches Verhalten zu stoppen, sondern auch davon, genügend technische Beweise zu sichern, um festzustellen, was versagt hat und ob ähnliche Systeme weiterhin gefährdet sind.

Congressman Lieu stellte die Gesetzgebung als notwendige Schutzmaßnahme gegen Systeme dar, die autonom agieren können. „It is imperative that these AI systems have kill switches so we can keep this technology from causing catastrophic harm, and that the federal government has the clear authority and process to shut down rogue AI models,“ sagte er.

Fünf Organisationen haben ihre Unterstützung für die Maßnahme erklärt, darunter das Future of Life Institute und Americans for Responsible Innovation.

Der Gesetzentwurf geht nun in eine dicht gedrängte bundespolitische Debatte über KI-Aufsicht. Sein Weg durch den Kongress wird zeigen, ob parteiübergreifende Sicherheitsregeln im aktuellen gesetzgeberischen Umfeld vorankommen können und ob Gesetzgeber Notabschaltbefugnisse so definieren können, dass sie für Entwickler von Frontier-KI-Systemen technisch praktikabel sind.