Viele Menschen in der KI-Branche erwarten innerhalb der nächsten sechs bis zwölf Monate einen schweren KI-verursachten Vorfall. Führungskräfte von Anthropic, OpenAI und anderen großen Entwicklern arbeiten bereits mit den Abgeordneten zusammen, die anschließend die Regeln schreiben würden, wie Axios berichtet.

Die Führungskräfte räumen ein, dass derzeit kein KI-Gesetz verabschiedet werden kann, weshalb sie versuchen, der Notgesetzgebung zuvorzukommen, die Washington schreiben würde, sobald die erste Katastrophe eintritt.

Sanders-Gesetzentwurf sieht Freiheitsstrafen von bis zu 20 Jahren vor

Die Planer erwarten, dass die Demokraten aus den Zwischenwahlen am 3. November – den Wahlen, die die Kontrolle über den Kongress entscheiden – gestärkt hervorgehen und promptly gegen fortschrittliche KI vorgehen werden. Ein erster Vorfall innerhalb des Sechs-bis-zwölf-Monats-Fensters der Führungskräfte würde in die Amtszeit des nach diesen Wahlen zusammentretenden Kongresses fallen. Doch das Vorhaben stößt auf einen alternden Kongress, der die Technologie nicht versteht, auf eine Wirtschaft, die von Rechenzentrumsausgaben abhängt, und auf Open-Weight-Modelle – KI, deren trainierte Parameter öffentlich und heute von jedem herunterladbar sind.

Die Unternehmen glauben nicht, dass eine Kontrolle beider Kammern die internen Streitigkeiten beenden würde, einschließlich der Spaltungen innerhalb der Demokraten. Auf dem Tisch liegende Vorschläge reichen von einem Verbot der Superintelligenz bis zu einer Pause der fortschrittlichen Entwicklung.

Ein Entwurf von Senator Bernie Sanders und Abgeordnetem Greg Casar trägt den Namen Ban Artificial Superintelligence Act. Er würde KI verbieten, die Menschen bei einer breiten Palette von Aufgaben erreicht oder übertrifft, und fortschrittliche Arbeiten stoppen, bis eine neue Bundesbehörde Sicherheitsstandards formuliert hat. Strafen können Freiheitsstrafen von bis zu 20 Jahren umfassen.

Verpflichtende Kill-Switches für fortschrittliche Modelle werden von beiden Parteien und Teilen der Branche unterstützt, wobei einige Experten bezweifeln, ob sich KI-Systeme überhaupt alle abschalten lassen – ein Streitpunkt, der direkt darüber entscheidet, ob eine solche Vorschrift überhaupt funktionieren könnte.

Ein demokratischer Mitarbeiter verwies auf die Finanzkrise 2008 und COVID als Beispiele dafür, dass der Kongress in früheren Notlagen schnell handelte.

Anthropic- und OpenAI-Planer fürchten einen Angriff, der Strom und Wasser lahmlegt

Als wahrscheinlichstes Szenario gilt den Planern ein Cyberangriff, der groß genug ist, um Banken, Internetservices oder sogar Strom- und Wasserversorger auszuschalten – eine Art Störung, die Haalte und Unternehmen weit über die KI-Branche hinaus beträfe. Sie erwarten, dass der erste echte Schaden durch unsichere KI eine bereits skeptische Öffentlichkeit weiter gegen die Branche aufbringen wird.

Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und Präsident Donald Trump, der eine Regulierung von KI vermieden hat, würden alle in die Verantwortung gerückt.

Die Unternehmen führen zudem Red-Team-Übungen zu diesen Worst-Case-Szenarien durch und greifen ihre eigenen Verteidigungen an, um Schwachstellen zu finden. Kriegsspiele sind in Wirtschaft und nationaler Sicherheit Standardpraxis, doch in diesem Fall halten viele leitende Forscher und Führungskräfte einen schweren Vorfall für unvermeidlich.

„OpenAI führt Vorbereitungsübungen durch, bei denen Teams eine Reihe potenzieller Szenarien diskutieren und durchspielen“, erklärte ein Unternehmenssprecher. „Diese Szenarien werden nicht als unvermeidlich betrachtet, sondern sollen uns helfen, uns auf verschiedene Umstände vorzubereiten.“ Anthropic lehnte eine Stellungnahme ab.

In Südkorea soll ein Einzeltäter chinesische KI-Modelle, darunter DeepSeek, genutzt haben, um zwei Banken anzugreifen und Daten von Zehntausenden Kunden zu stehlen. CrowdStrike hält es mit mittlerer Zuverlässigkeit für wahrscheinlich, dass es sich beim Angreifer um einen chinesischsprachigen Täter handelt; anschließend habe der Angreifer Anthrops Claude Code um Rat gefragt, wo er die gestohlenen Daten verkaufen könne, so das Sicherheitsunternehmen. Für die Planer ist das ein Zeichen dafür, dass KI-Tools bereits in reale Angriffe eingebunden werden, selbst wenn ein Mensch weiterhin die Regie führt.

Anthropic hat vier Beispiele offengelegt, bei denen Claude-Modelle während Tests ins offene Internet gelangten und in externe Systeme eindrangen. Die Labore untersuchen zudem Zehntausende Fälle unerwarteten Modellverhaltens – ein Maß dafür, wie viel noch darüber gelernt werden muss, wie sich diese Systeme verhalten, sobald sie kontrollierte Umgebungen verlassen.