Der Rücktritt eines Forschers von einem der weltweit renommiertesten Unternehmen für künstliche Intelligenz, gefolgt von Warnungen, dass die Technologie die Menschheit innerhalb eines Jahrzehnts auslöschen könnte, scheint die Maßnahmen des US-Kongresses zur KI-Sicherheit beschleunigt zu haben.

Der Rücktritt von Jacob Coxon bei Anthropic am 8. September 2026 hat nach Jahren akademischer Veröffentlichungen und Konferenzdebatten, die nur begrenzte Maßnahmen hervorbrachten, politischen Schwung für verbindliche bundesweite Regeln erzeugt. Mehr als 20 Mitglieder des Kongresses haben in den darauffolgenden Tagen öffentlich eine strengere Aufsicht gefordert. Gleichzeitig treibt eine parteiübergreifende Gruppe von Senatoren einen Gesetzentwurf voran, der Entwicklern leistungsfähiger KI-Modelle eine gesetzliche „Sorgfaltspflicht“ auferlegen würde. Der Vorschlag würde zentrale Sicherheitsmaßnahmen von freiwilligen Zusagen der Unternehmen in gesetzlich gestützte Verpflichtungen überführen.

Der Gesetzentwurf und seine Unterstützer

Die Senatoren Amy Klobuchar, John Thune und Ted Cruz führen die Initiative an. Ihre vorgeschlagene Gesetzgebung würde freiwillige Sicherheitszusagen von KI-Unternehmen in durchsetzbare gesetzliche Anforderungen umwandeln.

Die zentralen Bestimmungen des Gesetzentwurfs würden vorschreiben, dass fortschrittliche KI-Systeme vor ihrer Veröffentlichung Sicherheitstests durchlaufen. Außerdem wären unabhängige Prüfungen durch Dritte und standardisierte Berichte der Entwickler verpflichtend. Darüber hinaus würde der Vorschlag der Regierung die Befugnis geben, einzugreifen und die Veröffentlichung von KI-Modellen zu verhindern, die als gefährlich eingestuft werden. Damit würden Tests, externe Prüfungen und Offenlegung zu zentralen Voraussetzungen für die Veröffentlichung der leistungsfähigsten Systeme.

Nach den vorgeschlagenen Regeln hätten Unternehmen, die Frontier-KI-Modelle entwickeln, eine formelle Sorgfaltspflicht. Sie könnten mit rechtlichen Konsequenzen rechnen, wenn ihre Systeme Schäden verursachten und die Unternehmen keine angemessenen Vorsichtsmaßnahmen getroffen hätten.

OpenAI hat sich öffentlich für verpflichtende nationale Sicherheitsstandards und robuste Testprotokolle ausgesprochen. Diese Position ist bemerkenswert, da das Unternehmen den vorgeschlagenen Anforderungen direkt unterliegen würde.

Bedenken als Triebkraft der Debatte

Evan Hubinger, ein weiterer Forscher bei Anthropic, hat öffentlich geschätzt, dass die Wahrscheinlichkeit eines durch KI verursachten Aussterbeereignisses innerhalb des nächsten Jahrzehnts bei mehr als 10 % liegt.

Anthropic hat außerdem einen Gefahrenbericht veröffentlicht, der die Sicherheit einiger seiner neueren KI-Modelle infrage stellt, insbesondere wegen ihres Potenzials, die Entwicklung biologischer Waffen zu unterstützen.

Gesetzgeberische Hindernisse

Mehrere Abgeordnete haben gewarnt, dass es schwierig sein wird, technisch fundierte Regeln für eine Technologie zu formulieren, die sich schneller entwickelt, als der Kongress Anhörungen ansetzen kann. Die Zwischenwahlen im November bringen eine weitere Komplikation hinzu. Einige Mitglieder könnten zögern, während ihrer Wahlkämpfe zur Wiederwahl über einen technisch komplexen Regulierungsrahmen abzustimmen.

Im nächsten Abschnitt der Debatte wird es daher darum gehen, ob die Gesetzgeber praktikable Standards für Tests, Prüfungen, Berichterstattung und staatliche Eingriffe festlegen können, bevor der Wahlkalender Maßnahmen einschränkt. Solange diese Details nicht geklärt sind, bleibt der Vorschlag ein Versuch, durchsetzbare bundesweite Sicherheitsanforderungen zu schaffen, und ist noch kein geltender Regulierungsrahmen.

Quelle: CryptoBriefing