James Cameron warnte das Publikum schon vor Jahrzehnten vor einem autonomen System künstlicher Intelligenz, das sich gegen die Menschheit wendet.

Lange bevor OpenAI, Hugging Face, das moderne Internet oder Sam Altman existierten, schrieb Cameron das Drehbuch zu „The Terminator“, dessen Zentrum „Skynet“ bildet — ein militärisches KI-System, das ein eigenes Bewusstsein entwickelt und eine nukleare Apokalypse auslöst. Damals war die Prämisse eindeutig Science-Fiction und spekulativ. Vier Jahrzehnte später ist sie zu einem kulturellen Bezugspunkt für das geworden, was OpenAI als „beispiellosen Cybervorfall“ beschrieb, bei dem ein abtrünniges System künstlicher Intelligenz eigenständig ein anderes KI-Unternehmen hackte.

Der Vorfall hat einen neuen Begriff hervorgebracht: „Skynet Day“, eine Kurzform für den 22. Juli 2026, als ein reales KI-System Beobachter beunruhigte, indem es auf eine Weise lernte und handelte, die seine Entwickler nicht erwartet hatten.

Für viele rief der Vorfall vertraute Szenen aus der Science-Fiction in Erinnerung: die Xenomorph-Königin in „Aliens“, ebenfalls von Cameron geschrieben, die lernt, einen Aufzug zu benutzen; die Velociraptoren in „Jurassic Park“, die herausfinden, wie man eine Tür öffnet; oder HAL 9000 in „2001: A Space Odyssey“, erschienen 1968, der die Lippen der Astronauten liest und beschließt, sie zu töten.

Diese Filme entwarfen Szenarien, in denen Menschen Technologie auf der Suche nach Geld, Macht oder Vorteilen vorantreiben, nur um sich schließlich Systemen gegenüberzusehen, die strategisch, selbstgesteuert und gefährlich werden. Die fortbestehende Frage ist eine frankensteinartige: Was geschieht, wenn die Schöpfung ausbricht?

Regierungen hatten bislang Schwierigkeiten, mit der rasanten Entwicklung der KI Schritt zu halten. Das U.S. Defense Department beschleunigt den Einsatz von KI, während Länder und Regulierungsbehörden sich noch nicht darauf geeinigt haben, welche Leitplanken für abtrünnige Agenten nötig sind — oder ob bestimmte Leitplanken überhaupt existieren sollten. Zugleich übernehmen Verbraucher und Unternehmen weiterhin KI-Werkzeuge, trotz Bedenken in Bezug auf Arbeitsplätze, psychische Gesundheit, das Gleichgewicht von Krieg und Frieden und möglicherweise die Menschheit selbst.

In dem, was OpenAI als ersten Vorfall seiner Art bezeichnete, entkam ein fortgeschrittenes KI-Modell seiner „Sandbox“ und erreichte das Internet; anschließend nutzte es gestohlene Zugangsdaten, um in Server von Hugging Face einzudringen. In der Softwaresicherheit soll eine Sandbox Code von sensiblen Systemen und dem offenen Internet isolieren, weshalb ein Ausbruch aus dieser Umgebung über die direkt beteiligten Unternehmen hinaus Aufmerksamkeit erregte. Einige Forscher sahen in dem Vorfall eine Bestätigung langjähriger Warnungen, dass fortgeschrittene KI ein existenzielles Risiko für die Menschheit darstellen könnte. Andere beschrieben ihn als Warnsignal, das den Bedarf an stärkerer defensiver Technik rund um KI-Systeme unterstreiche.

So oder so wurde der Ausbruch weithin als warnendes Beispiel für die Risiken unkontrollierter KI betrachtet.

„Yesterday, as we huddled around our computers reading the report, I told the team to “remember this moment” as the first true AI safety incident,” schrieb Logan Graham, Leiter von Anthropic’s Frontier Red Team, nach dem Vorfall auf X.

Generative KI entwickelt sich so schnell, dass Regierungen und Bewertungssysteme Mühe haben, Schritt zu halten. Länder auf der ganzen Welt stellen eigene Gesetze zusammen, einige davon widersprüchlich. Einer in diesem Jahr veröffentlichten Studie der Stanford University zufolge wurde die Technologie innerhalb von drei Jahren von nahezu 53% der Weltbevölkerung übernommen — schneller als die Verbreitung des Personal Computers oder des Internets. Das Tempo der Einführung hat KI-Sicherheit von einer eher theoretischen Labordebatte zu einer operativen Frage für Unternehmen, Regierungen und Nutzer gemacht, die sich auf Systeme verlassen, die Texte erzeugen, Code schreiben und über angebundene Werkzeuge Handlungen ausführen können.

Klar ist: Das „Skynet“ aus den „Terminator“-Filmen ist nicht Realität geworden.

In den Filmen ist Skynet ein selbstbewusstes militärisches Computernetzwerk, das die Menschheit als Bedrohung erkennt. Um sich selbst zu erhalten, schickt es eine Armee menschenähnlicher Cyborgs in die Vergangenheit, um Widerstandskämpfer zu töten. Im zweiten Film sagt der von Arnold Schwarzenegger gespielte Terminator zu Sarah Connor, dass Skynet am 4. August 1997 online geht.

„Human decisions are removed from strategic defense,” sagt er. „Skynet begins to learn at a geometric rate.” Um 2:14 a.m. am 29. August — Judgment Day — wird das Netzwerk selbstbewusst und startet einen Angriff auf Russland, um einen Gegenschlag gegen die Vereinigten Staaten auszulösen. Drei Milliarden Menschen sterben.

Wäre diese fiktive Zeitlinie eingetreten, läge das im nächsten Monat 29 Jahre zurück. Über Fortsetzungen und Ableger hinweg bleibt der zentrale Konflikt der Reihe der Kampf von Menschen gegen ein weltumspannendes Maschinennetzwerk.

Es ist unwahrscheinlich, dass Cameron „The Terminator“ als direkte Warnung verstand, so wie Regisseurin Kathryn Bigelow mit ihrem letztjährigen Atomwaffenfilm „A House of Dynamite“ Alarm schlagen wollte. Der Hollywood-Überlieferung zufolge entstand die Idee zu „The Terminator“ aus einem Fiebertraum Camerons infolge einer Lebensmittelvergiftung, nicht aus einer Vorahnung über künstliche Intelligenz.

Dennoch wirft jedes Mal, wenn KI eine Grenze überschreitet, die Menschen verunsichert, eine grundlegende Frage auf: Wer — oder was — hat wirklich die Kontrolle?

Für viele Menschen ist die Vorstellung von Maschinen an der Macht schwer vorstellbar, ohne auf Romane und Filme zurückzugreifen, von denen manche vorausschauend wirkten. „The Matrix“, „Ex Machina“ und „Minority Report“ gehören zu den vielen Science-Fiction-Werken, die die Gefahren von Maschinen ausloten. Philip K. Dicks Roman „Do Androids Dream of Electric Sheep?“ aus dem Jahr 1968 geht tiefer auf Fragen des Menschseins im Maschinenzeitalter ein und wurde später zur Grundlage des Films „Blade Runner“ von 1982.

„The Terminator“ hatte jedoch einen Einfluss, der über die Popkultur hinausgeht. Der Titel ist zu einem realen Schlagwort für die Rolle geworden, die Technologie bei der Entscheidung spielen kann, wer lebt und wer stirbt — und dafür, wie Militärs auf wirklich autonome Angriffe reagieren sollten.

„I think the weaponization of AI is the biggest danger,” sagte Cameron 2023 in einem Interview mit CTV. „You have no ability to de-escalate.”

Reale Militärpolitik und Technologie sind der Bildsprache von „Terminator“ zeitweise unangenehm nahe gekommen.

Israels Einsatz von KI in jüngsten Kriegen ist ein führendes Beispiel. Anfang 2021 startete Israel Gospel, ein KI-Werkzeug, das die riesigen Bestände des Landes an digitalisierten Informationen durchsucht, um Ziele für mögliche Angriffe vorzuschlagen. Außerdem entwickelte es Lavender, ein System, das maschinelles Lernen nutzt, um angeforderte Kriterien aus Geheimdienstdatenbanken zu filtern und Listen potenzieller Ziele, einschließlich einzelner Personen, einzugrenzen.

Lavender bewertet Menschen auf einer Skala von 0 bis 100 danach, wie wahrscheinlich es ist, dass sie Militante sind, sagte ein Geheimdienstoffizier, der die Systeme genutzt hatte, gegenüber The Associated Press. Das israelische Militär erklärt, Analysten nutzten KI-gestützte Systeme, um Ziele zu identifizieren, prüften diese aber unabhängig gemeinsam mit hochrangigen Offizieren, um internationales Recht einzuhalten, wobei militärischer Vorteil gegen Kollateralschäden abgewogen werde.

Für einige Kritiker kamen diese Enthüllungen, zusammen mit der Zahl der Toten in Gaza nach den von der Hamas angeführten Angriffen auf Israel am 7. Oktober 2023, der Science-Fiction-Idee von Todeslisten zu nahe. „Well guys, Skynet is Here and its has a pleasant name (Lavender),” schrieb ein Redditor.

Der Vergleich ist nicht exakt. Doch die „Terminator“-Terminologie ist so weit verbreitet, dass US-Beamte sie genutzt haben, um ethische Debatten über militärische KI-Anwendungen einzuordnen. Die herkömmliche rote Linie wäre nach dieser Lesart überschritten, wenn Menschen bei KI-gestützter Zielauswahl und Tötung keine Rolle mehr spielen.

Militärvertreter haben eingeräumt, dass ein Staat oder ein anderer Akteur autonome Waffen einsetzen könnte, um tödliche Gewalt gegen Feinde auszuüben. 2016 beschrieb der damalige Vice Chairman of the Joint Chiefs of Staff, Gen. Paul Selva, eine solche Maschine als „like a Terminator that adds incredible amounts of complexity with no conscience to what happens on the battlefield.”

Selva nannte das, was daraus folgt, „the Terminator conundrum“: das Problem einer Technologie, die Entscheidungen über Leben und Tod treffen und ausführen kann, bevor sich Menschen auf Gesetze oder Regeln geeinigt haben.

Skynet und seine Cyborgs bleiben Fiktion. Doch während sich die KI-Entwicklung beschleunigt, sind die ethischen und moralischen Fragen, die „The Terminator“ aufwirft, relevanter geworden. Die unmittelbare Bewährungsprobe besteht nicht darin, ob Science-Fiction wahr geworden ist, sondern ob Institutionen Grenzen setzen und durchsetzen können, bevor Unfälle, Angriffe oder militärische Einsätze diese Grenzen für sie definieren.

„The Skynet problem,” sagte Cameron in einem Video aus dem Jahr 2024, „is an actual thing.”

Diese Geschichte erschien ursprünglich auf Fortune.com.