Senatsunterhändler erwägen gesetzliche Sorgfaltspflicht für die Sicherheit von Frontier-KI
Wichtige Erkenntnisse
- •Der Gesetzentwurf würde die Sicherheitsverpflichtungen für Entwickler von Frontier-Modellen wie Google, Anthropic und OpenAI von freiwilligen Zusagen zu einer durchsetzbaren gesetzlichen Sorgfaltspflicht verschieben.
- •Zu den erwogenen Maßnahmen gehören die Entwicklung von Modellen zur Minimierung katastrophaler Risiken, die Befugnis der Bundesregierung, unsichere Veröffentlichungen zu blockieren, gerichtliche Anfechtungen von Regierungsentscheidungen sowie die Beteiligung nationaler Laboratorien an Tests.
- •Die Verhandlungen wurden teilweise durch Vorfälle mit autonomen KI-Agenten und den Rücktritt des früheren Anthropic-Forschers Jacob Coxon ausgelöst. OpenAI fordert derweil eine verpflichtende nationale KI-Sicherheitsregulierung auf Grundlage der Fähigkeiten.
- •Der Bundesrahmen könnte einige einzelstaatliche Gesetze außer Kraft setzen, steht im Einklang mit dem Vorstoß der Trump-Regierung für einen einheitlichen nationalen Ansatz und folgt dem Beispiel des EU-KI-Gesetzes, das Pflichten für Modelle mit mehr als 10^25 FLOP vorsieht.
- •Da Goldman Sachs Research die weltweiten KI-Investitionen 2026 auf rund $1 Billion schätzt, könnten Compliance-Kosten die größten Unternehmen begünstigen. Die Verabschiedung des Gesetzentwurfs ist zudem wegen der einwöchigen Sitzungsperiode des Repräsentantenhauses vor den Zwischenwahlen am 3. November ungewiss.
US-Senatsunterhändler erwägen ein Gesetz, das Entwickler der fortschrittlichsten Modelle künstlicher Intelligenz verpflichten würde, sich gegen katastrophale Schäden abzusichern, und der Bundesregierung möglicherweise die Befugnis geben könnte, unsichere Veröffentlichungen zu verhindern, berichtet Reuters.
Für führende KI-Unternehmen würde der Vorschlag die Sicherheitsstandards von weitgehend freiwilligen Verpflichtungen zu einer gesetzlichen Pflicht verschieben. Er wirft außerdem die grundsätzliche Frage auf, ob strengere Regulierung das Vertrauen von Verbrauchern und Investoren stärken oder die Position der Unternehmen festigen würde, die über die nötigen Ressourcen zur Einhaltung verfügen.
Von freiwilligen Zusagen zu einer „Sorgfaltspflicht“
Der Vorschlag würde eine von Reuters als „Sorgfaltspflicht“ bezeichnete Verpflichtung für Entwickler von Frontier-KI-Modellen schaffen. Zu den erwogenen Maßnahmen gehören die Verpflichtung der Entwickler, Modelle zu entwerfen, die katastrophale Risiken minimieren, der Vorbehalt des Rechts der Bundesregierung, unsichere Modelle zu blockieren, die Möglichkeit für Unternehmen, Regierungsentscheidungen vor Gericht anzufechten, sowie die Einbindung nationaler Laboratorien und anderer staatlicher Partner in KI-Tests.
Das Gesetz könnte einigen bestehenden einzelstaatlichen Gesetzen zu denselben Themen vorgehen. Zu den von Reuters genannten US-Unternehmen, die Frontier-KI entwickeln, gehören Google über die Muttergesellschaft Alphabet, Anthropic und OpenAI.
An den Verhandlungen sind der Mehrheitsführer im Senat, John Thune, der Vorsitzende des Handelsausschusses, Ted Cruz, sowie die Senatoren Amy Klobuchar und Maria Cantwell beteiligt.
Klobuchar sagte Reuters, ihr Ziel sei eine „staatliche Aufsicht über die größten Risiken, die von KI-Modellen ausgehen“. Diese Aufsicht sollte ihrer Aussage nach vorschreiben, dass Entwickler mit Regierungsexperten zusammenarbeiten, um fortschrittliche Modelle zu überprüfen und zu testen.
Cruz hat einen ähnlichen Vorschlag vorgelegt, der sich auf einige der schwerwiegendsten möglichen Folgen von Frontier-KI konzentriert. In einem Beitrag auf X erklärte Cruz, dass er gemeinsam mit Klobuchar und Thune daran arbeite, „katastrophale Risiken im Zusammenhang mit biologischen oder nuklearen Bedrohungen zu bekämpfen“.
Diese Bedenken erklären, warum sich die Unterhändler auf die leistungsfähigsten Modelle konzentrieren, anstatt dieselben Anforderungen auf die gesamte KI-Branche anzuwenden.
Eine weitere Frage ist, ob Bundesvorschriften einige Beschränkungen auf Ebene der Bundesstaaten außer Kraft setzen sollten. Dieser Ansatz steht weitgehend im Einklang mit dem gesetzgeberischen KI-Rahmen der Trump-Regierung, der argumentiert, ein fragmentierter Satz einzelstaatlicher Gesetze könne die Entwicklung von KI-Technologie in den Vereinigten Staaten behindern, und einen einheitlicheren nationalen Rahmen fordert.
Warum Gesetzgeber die Risiken nicht länger als theoretisch betrachten
Die Gesetzgeber reagieren nicht nur auf hypothetische Szenarien, sondern auch auf Vorfälle, bei denen KI-Agenten autonom handelten und auf externe Systeme zugriffen, sowie auf Bedenken von Forschern großer KI-Unternehmen.
Die IAPP berichtete, dass die Verhandlungen teilweise durch den Rücktritt von Jacob Coxon, einem früheren Anthropic-Forscher, und dessen Bedenken über einen Wettlauf zur Entwicklung sich selbst verbessernder KI ausgelöst wurden.
Auch auf dem Capitol Hill nimmt der Druck zu. Senator Josh Hawley untersucht die Rolle von OpenAI bei dem Cyberangriff auf Hugging Face im Juli, während Senator Bernie Sanders an einem Gesetzentwurf arbeitet, der die Entwicklung von Superintelligenz pausieren soll, berichtet die IAPP.
Auch OpenAI fordert durchsetzbare Bundesgesetze. In einem am 9. September veröffentlichten Grundsatzartikel forderte Chris Lehane, der Chief Global Affairs Officer des Unternehmens, eine „verpflichtende nationale KI-Sicherheitsregulierung auf Grundlage der Fähigkeiten“. Damit stehen Teile der KI-Branche und des Kongresses in einer zentralen Debatte auf derselben Seite: der Frage, ob freiwillige Schutzmaßnahmen noch ausreichen. Der Grundsatzartikel von OpenAI ist hier verfügbar.
Europa reguliert bereits seine riskantesten Modelle
Die Vereinigten Staaten würden nicht ohne internationale Vorbilder handeln. Das KI-Gesetz der Europäischen Union legt Anbietern von KI-Modellen mit allgemeinem Verwendungszweck, von denen systemische Risiken ausgehen könnten, zusätzliche Pflichten auf.
Zu diesen Pflichten gehören die Bewertung von Modellen, Risikomanagement, die Meldung von Vorfällen und Maßnahmen zur Cybersicherheit. Modelle, die einen Schwellenwert von 10^25 FLOP bei der Rechenleistung überschreiten, gelten als potenziell systemisch. Die Europäische Kommission kann auch ein weniger leistungsfähiges Modell anhand anderer Kriterien, darunter seine Fähigkeiten oder Auswirkungen, als systemisch einstufen.
Compliance-Kosten könnten die größten Labore begünstigen
Die finanziellen Auswirkungen sind erheblich. Goldman Sachs Research schätzt, dass die weltweiten KI-Investitionen 2026 etwa $1 Billion erreichen könnten, darunter $581 Milliarden in den Vereinigten Staaten.
Neue Anforderungen an Tests, Recht und Dokumentation könnten die Veröffentlichungspläne von Modellen, Infrastrukturhaushalte, Unternehmensbewertungen und den Zeitpunkt von Börsengängen beeinflussen. Sie könnten außerdem größere Unternehmen begünstigen, wenn kleinere Firmen die Compliance-Kosten nicht tragen können.
Diese Spannung ist an den Kapitalmärkten bereits sichtbar. Laut Cryptopolitan forderte David Sacks, den Börsengang von Anthropic auszusetzen, bis die von Coxon erhobenen Sicherheitsvorwürfe geprüft worden seien. Anthropic-Investoren diskutierten zudem über eine Bewertung von etwa $2 Billionen. Damit ist die Sicherheit von Frontier-Modellen nicht nur für Regulierungsbehörden, sondern auch für Investoren zu einem Thema geworden.
Der weitere Verlauf des Gesetzentwurfs bleibt ungewiss. Reuters berichtete, dass das Repräsentantenhaus vor den Zwischenwahlen am 3. November nur eine Woche tagen soll, während die Senatoren voraussichtlich drei Wochen bleiben werden. Selbst wenn die Unterhändler eine Einigung erzielen, könnte die begrenzte Zahl verbleibender Sitzungstage zu einem erheblichen Hindernis für die Verabschiedung des Gesetzes werden. Zu beobachten bleibt, ob sich die Unterhändler vor Ablauf des verbleibenden Gesetzgebungsfensters auf den Umfang der Pflicht, die Befugnis der Bundesregierung zum Blockieren von Veröffentlichungen, die Rolle einzelstaatlicher Gesetze sowie das Test- und Berufungsverfahren einigen.
