Anthropic hat US-Gesetzgebern einen Entwurf für ein Bundesgesetz vorgelegt, das die Befugnis der Behörden, fortschrittliche KI-Modelle zu blockieren, stark einschränken würde – dies geschieht amid wachsender Sorgen um die KI-Sicherheit, während der Kongress neue Aufsichtsregeln prüft. Der Entwurf erscheint zu einem Zeitpunkt, zu dem bereits mehrere KI-Aufsichtsvorhaben des Kongresses laufen, und bietet den Gesetzgebern einen von einem Unternehmen ausgearbeiteten Referenzpunkt für diese Debatte.

Dem vertraulichen Vorschlag zufolge soll ein Schaden von 1 Milliarde Dollar oder ein Risiko mit mehr als 50 schweren Opfern als Bedingung für ein staatliches Eingreifen gelten. Anthropic bestätigte, dass der Entwurf auf seinem im Juni veröffentlichten Advanced AI Framework basiert, der unabhängige Tests und staatliche Aufsicht vorsieht.

Nach dem Entwurf würden unabhängige Prüfer fortschrittliche KI-Modelle regelmäßig bewerten und qualitative Sicherheitsbedrohungen innerhalb von 72 Stunden den Bundesbehörden melden müssen. Der Vorschlag würde zudem bestimmte KI-Vorschriften der Bundesstaaten außer Kraft setzen und gleichzeitig öffentliche Transparenzberichte sowie Whistleblower-Schutz für Entwickler vorschreiben.

Anthropic-Entwurf setzt Grenzen für staatliches Eingreifen

Der Entwurf würde es den Behörden nur dann erlauben, ein fortschrittliches KI-Modell zu stoppen, wenn eine vorhersehbare und unmittelbare Gefahr besteht. Das Risiko muss Biowaffen, Cyberangriffe oder ein KI-System umfassen, das der Kontrolle seines Entwicklers entgleitet.

Laut dem Vorschlag würde ein Bundeseingreifen einen möglichen Schaden von über 1 Milliarde Dollar oder ernsthafte Schäden für mehr als 50 Personen voraussetzen. Das Handelsministerium würde die Gefahr zunächst bewerten, bevor ein Bundesrichter um die Aussetzung der Veröffentlichung oder Nutzung eines Modells ersucht wird. Nur der US-Bezirksgerichtshof für den District of Columbia könnte eine solche Aussetzung im Rahmen des vorgeschlagenen Konzepts genehmigen, und andere Bundesbehörden hätten nach dem Gesetz im Allgemeinen keine Befugnis, die Entwicklung, den Einsatz oder die interne Nutzung von Modellen eigenständig zu stoppen. Dieses Design würde Eingriffe über ein einziges Ministerium und ein einziges Gericht kanalisieren – einen engeren Weg, als die stärkeren staatlichen Prüfbefugnisse, die einige Senatoren gefordert haben.

Das Gesetz würde von führenden KI-Entwicklern regelmäßige Bewertungen durch unabhängige, beim Handelsium registrierte Prüfer verlangen. Unternehmen könnten die Prüfer für ihre Dienstleistungen bezahlen, jedoch dürfte die Vergütung nicht vom Ergebnis dieser Bewertungen abhängen.

Prüfer, die eine unmittelbare qualifizierte Bedrohung feststellen, hätten nach Abschluss ihrer Bewertung 72 Stunden Zeit, das Handelsministerium zu benachrichtigen. Für Entwickler würden Anforderungen zu Sicherheitsrahmen, Meldung von Vorfällen, öffentlicher Transparenz und Whistleblower-Schutz gelten.

Der Vorschlag folgt auf Anthropics frühere Vereinbarungen zu unabhängigen KI-Sicherheitstests. Im September kündigte das Unternehmen eine Evaluierungspartnerschaft mit Accenture an, um fortgeschrittene Modelle zu bewerten und Sicherheitsvorkehrungen zu stärken.

Anthropic-Vorschlag könnte einige KI-Sicherheitsgesetze der Bundesstaaten außer Kraft setzen

Der Entwurf würde bestimmte Anforderungen der Bundesstaaten zu Risikohinweisen, unabhängigen Bewertungen und Meldungen schwerer KI-Sicherheitsvorfälle außer Kraft setzen. Diese Bestimmung adressiert die unterschiedlichen Compliance-Anforderungen, die in den US-Bundesstaaten – insbesondere in Kalifornien und New York – entstehen.

Der Ersatz landesweiter Anforderungen durch Bundesregeln hat die Gesetzgeber über das angemessene Maß an KI-Aufsicht gespalten. Einige Demokraten lehnen Vorschläge ab, die bestehende Schutzmechanismen der Bundesstaaten schwächen könnten, während Wirtschaftsverbände einheitliche nationale Anforderungen befürworten. Das Ergebnis würde mitbestimmen, ob führende KI-Entwickler einem einheitlichen Bundesstandard oder einem Flickenteppich aus Compliance-Anforderungen einzelner Bundesstaaten unterliegen.

Die Debatte folgt auf frühere Sicherheitstests mit fortschrittlichen KI-Agenten. Bei diesen Tests wurden Fälle dokumentiert, in denen KI-Systeme unbefugte Aktionen durchführten, was Fragen zu den Kontrollen der Entwickler und zur Angemessenheit unabhängiger Bewertungen aufwirft.

Anthropic hat zuvor dokumentierte Versuche beschrieben, seine Modelle für biologische Forschung und Cyberangriffe zu missbrauchen. Der KI-Missbrauchsbericht vom September beschrieb blockierte Anfragen und zusätzliche Sicherheitsvorkehrungen, die zur Abwehr dieser Bedrohungen eingeführt wurden.

Im Kongress haben die Abgeordneten Lori Trahan und Jay Obernolte den FRONTIER Act vorangetrieben, der sich mit gefährlichen KI-Einsätzen befasst. Die Senatoren John Thune, Amy Klobuchar und Ted Cruz haben separat über Gesetze zu katastrophalen Risiken und Bundesinterventionen diskutiert.

Senatorin Maria Cantwell und andere Gesetzgeber haben sich für stärkere staatliche Prüfbefugnisse eingesetzt, als sie manche konkurrierende Vorschläge vorsehen. Währenddessen haben Senator Bernie Sanders und Abgeordneter Greg Casar weitergehende Beschränkungen der Entwicklung fortschrittlicher KI-Systeme unterstützt.

Anthropic hat sich nicht öffentlich zu einem bestimmten Gesetzentwurf des Kongresses bekannt, und sein Vorschlag ist nicht Gesetz geworden. Die Gesetzgeber haben noch nicht angekündigt, ob sie den Entwurf des Unternehmens als formelles Gesetz einbringen werden.