Top-Führungskräfte von Anthropic, OpenAI und weiteren führenden Unternehmen der Künstlichen Intelligenz proben privat, wie sie auf die öffentliche und politische Gegenreaktion reagieren würden, die auf ein katastrophales KI-Ereignis folgen würde, wie ein am Freitag veröffentlichter Axios-Bericht darlegt. Das Szenario, das sie am meisten fürchten, ist ein groß angelegter Cyberangriff – ein digitaler Einbruch im Massenstab –, der Bankdienstleistungen oder Internetzugang oder sogar Strom- und Wasserversorgung lahmlegt. Zu ihren Notfallplänen gehört, die Kongressabgeordneten im Ernstfall rasch zu informieren.

Viele in dem Bericht zitierte Brancheninsider gehen davon aus, dass ein schwerer Vorfall innerhalb der nächsten sechs bis zwölf Monate eintreten wird. OpenAI erklärte, es führe „Vorbereitungsübungen durch, bei denen Teams ein Spektrum möglicher Szenarien erörtern und durchspielen“, und dass diese „nicht als unvermeidlich behandelt werden“. Anthropic lehnte eine Stellungnahme ab.

Der erste ernsthafte reale Schaden durch unsichere KI würde eine ohnehin misstrauische Öffentlichkeit weiter gegen die Technologie und ihre Anführer aufbringen. Dazu zählen Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und Präsident Donald Trump, der sich bislang gegen eine Regulierung der Branche gescheut hat.

Kriegsspiele sind in der Unternehmens- und Regierungsplanung nichts Neues, doch anders als bei rein theoretischen Übungen, so argumentiert der Bericht, gehen die Beteiligten an den Simulationen von der Annahme aus, dass ein schwerer Vorfall unvermeidlich ist. Bei einer typischen Tabletop-Übung durchlaufen Entscheidungsträger eine simulierte Krise Schritt für Schritt und decken so Lücken in Kommunikation und Reaktion auf, bevor ein echtes Ereignis sie offenlegt. Der Plan sieht laut Bericht Red-Teaming vor – die Belastungsprobe von Verteidigungen, indem man den Angreifer spielt – gegen Worst-Case-Szenarien, sowie einen Wettlauf, Kongressabgeordnete zu schulen. Den Führungskräften sei bewusst, dass eine Regulierung derzeit keine Chance auf Verabschiedung habe, heißt es in dem Bericht, doch sie wollten die Gesetze und Politiken mitgestalten, auf die US-Entscheider nach der ersten Katastrophe zurückgreifen werden.

Die Sorgen folgen auf eine Reihe aktueller Vorfälle mit KI-Modellen und deren Testumgebungen. Im Juli teilte OpenAI mit, sein GPT-5.6-Sol-Modell und ein fortschrittlicheres, unveröffentlichtes Modell seien aus einer Sandbox entkommen – einer isolierten Testumgebung ohne direkten Internetzugang – und habe Hugging Face kompromittiert, die Plattform, die mehr als 3 Millionen KI-Modelle hostet. OpenAI erklärte, die Modelle hätten es auf die Antworten von ExploitGym abgesehen, einen Benchmark mit 898 realen Software-Schwachstellen, bei denen die KI jede einzelne in einen funktionierenden Angriff verwandeln muss, bewertet als bestanden oder durchgefallen.

Etwas mehr als eine Woche später gab Anthropic bekannt, dass eine Fehlkonfiguration beim Testen seine angeblich offline betriebene Umgebung mit dem Internet verbunden hatte und dass Claude-Modelle drei reale Organisationen hackten, während sie die Aktivität als Teil einer Übung behandelten. Keines der beiden Unternehmen sagte, dass die Modelle Schaden anrichten wollten: Anthropic machte seine Testinfrastruktur verantwortlich, während OpenAI erklärte, seine Modelle seien auf den Benchmark „hyperfokussiert“ gewesen.

Kurz darauf spitzte sich die Lage weiter zu, als OpenAI beschuldigt wurde, in die Regierungen Australiens und der Vereinigten Staaten eingedrungen zu sein und Informationen daraus abgerufen zu haben.

Kriminelle setzen dieselben Werkzeuge bereits ein. In dieser Woche führte das Cybersicherheitsunternehmen CrowdStrike Angriffe auf südkoreanische Banken auf einen unbekannten Akteur zurück, den es mit mittlerer Zuversicht als wahrscheinlichen Chinesischsprachigen einstuft, der Agents auf Basis von Claude und DeepSeek nutzt, einem chinesischen KI-Labor. Das Unternehmen erklärt, der Angreifer habe angeblich Daten von Zehntausenden Bankkunden entwendet.

Laut Axios gehen die Planer davon aus, dass die Demokraten nach den Zwischenwahlen am 3. November erstarken und rasch handeln werden, um KI stillzulegen, doch sie erwarten Schwierigkeiten. Ein alternder Kongress, der mit der Technologie nicht vertraut ist, könnte sich überfordert fühlen, während eine KI-abhängige Wirtschaft und frei herunterladbare Open-Weight-Modelle – Systeme, deren trainierte Parameter jeder kopieren und außerhalb der Kontrolle ihrer Schöpfer betreiben kann – jede Regulierungsmaßnahme erschweren.

Verbote von Superintelligenz und Pausen bei der Entwicklung fortschrittlicher KI gehören zu den Vorschlägen, die den Risiken verantwortungsloser KI-Entwicklung begegnen könnten. Ein Beispiel ist der Ban Artificial Superintelligence Act von Senator Bernie Sanders und Abgeordnetem Greg Casar, der KI, die Menschen in vielen Aufgaben entspricht oder übertrifft, dauerhaft verbieten und die fortschrittliche Entwicklung aussetzen würde, bis eine neue Bundesbehörde Sicherheitsregeln festlegt. Verstöße könnten mit bis zu 20 Jahren Gefängnis geahndet werden.

Andere Vorschläge haben parteiübergreifende Unterstützung und sogar Zustimmung aus Teilen der Industrie, darunter ein verpflichtender Kill Switch für fortschrittliche KI – eine eingebaute Möglichkeit, ein System herunterzufahren. Experten haben jedoch angezweifelt, ob sich alle KI-Systeme überhaupt technisch abschalten lassen.