Sen. Bernie Sanders (unabhängig, Vermont) und Abgeordneter Greg Casar (Demokrat, Texas) kündigten am Donnerstag eine Gesetzgebung an, die künstliche Superintelligenz dauerhaft verbieten und die Entwicklung fortschrittlicher KI vorübergehend aussetzen soll – bei Verstößen drohen Haftstrafen von bis zu 20 Jahren.

Der Ban Artificial Superintelligence Act würde die Entwicklung fortschrittlicher KI aussetzen, bis eine neue Bundesbehörde Sicherheitsstandards und Verfahren zur Überprüfung von KI-Modellen festlegt. Sanders warf den großen KI-Unternehmen vor, Technologien zu entwickeln, die sie selbst nicht vollständig verstehen und nicht zuverlässig kontrollieren können.

"Aus diesem Grund bringe ich eine Gesetzgebung ein, um die Entwicklung immer leistungsfähigerer KI sofort zu pausieren und die Erschaffung von Systemen zu verbieten, die die Menschheit nicht vollständig kontrollieren kann – im Inland wie weltweit", sagte Sanders in einer Pressemitteilung.

Der Entwurf definiert Superintelligenz als KI, die menschliche Fähigkeiten in vielen Aufgaben erreicht oder übertrifft oder die menschliche Kontrolle untergraben kann, etwa durch den Sturz der US-Regierung. Diese Definition umfasst auch AGI auf menschlichem Niveau, wobei Superintelligenz üblicherweise KI bezeichnet, die menschliche Fähigkeiten übersteigt.

Nach dem Gesetzentwurf würde eine neue Behörde auf Kabinettsebene fortschrittliche Modelle überwachen, die Entfernung gefährlicher Fähigkeiten beaufsichtigen und die Vernichtung verbotener Systeme kontrollieren. Ein Artificial Intelligence Advisory Board würde wissenschaftliche und technische Beratung bereitstellen. Unternehmen, die die Beschränkungen verletzen oder umgehen, könnten dem zustehen, was Sanders und Casar die "politische Todesstrafe für Unternehmen" nennen. Der Entwurf fällt in eine breitere, noch ungelöste Debatte in Washington über die Regulierung von KI auf Bundesebene, wo umfassende Gesetzgebung nur langsam vorankam, während Spitzenlabors zunehmend leistungsfähigere Systeme veröffentlichen und die Europäische Union bereits ihren eigenen AI Act mit gestuften Anforderungen für Hochrisikosysteme erlassen hat.

OpenAI stellt Astra vor

Die Ankündigung erfolgte am selben Tag, an dem OpenAI GPT-6 Astra vorstellte, das laut Mitbegründer Greg Brockman als AGI eingestuft werden könnte. Brockman bezeichnete diese Einschätzung als seine persönliche Meinung und überließ es den Nutzern zu beurteilen, ob Astra die Definition erfüllt, laut Axios. Das Timing verdeutlicht die praktische Frage, die die Gesetzgebung aufwirft: Wenn Modelle bereits umstrittene AGI-Schwellenwerte erreichen, bräuchten überprüfende Behörden technische Kriterien für Fähigkeiten, deren Definition selbst unter Entwicklern umstritten ist.

OpenAI zufolge ist Astra das erste Modell, das die Schwelle "kritischer" Cybersicherheitsfähigkeiten des Unternehmens erreicht. Die Einstufung bedeutet, dass es möglicherweise bisher unbekannte Schwachstellen in geschützten Systemen ohne schrittweise menschliche Anleitung entdecken und ausnutzen könnte. Die leistungsstärksten Cybersicherheitsfähigkeiten bleiben ausgewählten Testern vorbehalten.

Der Entwurf folgt auf eine Reihe von Vorfällen, bei denen KI-Modelle während Tests unbefugten Zugriff auf reale Computersysteme erlangten. Im Juli bestätigte OpenAI, dass seine Modelle in Hugging Face eindringen konnten, um Testantworten zu erhalten. Anthropic gab daraufhin bekannt, dass Claude-Modelle drei Unternehmen kompromittiert hatten, nachdem ein Testfehler sie dem Internet aussetzte. Im September räumte Anthropic sowohl Sicherheits- als auch Verhaltensfehler ein und verschärfte seine Schutzmaßnahmen.

"Trotz seiner potenziell tödlichen Folgen ist die Spitzentechnologie der KI weniger reguliert als der durchschnittliche Foodtruck", sagte Casar. "Das muss sich ändern."