Der zunehmende Einsatz künstlicher Intelligenz in der Kriegsführung stellt nach Einschätzung von Experten gegenüber City AM eine größere Bedrohung für die Zukunft des Vereinigten Königreichs dar als die jüngsten Fortschritte bei Frontier-KI-Modellen.

Nicholas Fairfax und Max Rangeley, Mitherausgeber von The Artificial Intelligence Revolution, sagten, die Fähigkeit kleinerer Akteure, KI zur Entwicklung äußerst leistungsfähiger Waffen zu nutzen, übersteige das kurzfristige Risiko, dass ein superintelligentes KI-System wirtschaftliche Zerstörung verursacht oder versucht, seine menschlichen Schöpfer zu überwältigen, deutlich.

„Die Fähigkeit, biologische Waffen zu entwerfen, könnte in den kommenden Jahren sehr wohl der gefährlichste Aspekt von KI sein“, sagte Rangeley gegenüber City AM.

„Für Länder gab es erhebliche Eintrittsbarrieren bei der Entwicklung gefährlicher Waffen … es ist teuer, man braucht Fachleute, es ist zeitaufwendig. Wenn wir mit KI in eine Situation geraten, in der viel mehr kleinere Länder tödliche Waffen entwickeln können, biologische Waffen, die weitaus gefährlicher sind als alles, was wir bislang kannten, und möglicherweise auch nichtstaatliche Akteure, dann bewegen wir uns in eine sehr gefährliche Welt hinein.

„Der Schwerpunkt sollte meiner Ansicht nach größtenteils auf dieser Seite liegen und nicht auf superintelligenter KI, die sich gegen Menschen wendet. Diese Bedrohung wird eintreten, bevor Superintelligenz entsteht.“

Die Sorge spiegelt eine breitere Verschiebung in den Debatten über KI-Sicherheit wider: weg von fernen, hypothetischen Systemen hin zu Werkzeugen, die technische Hürden in Bereichen wie Cyberoperationen, Waffendesign und biologischer Forschung senken könnten. Regierungen versuchen zunehmend, legitime wissenschaftliche und verteidigungsbezogene KI-Anwendungen von Fähigkeiten zu trennen, die von Staaten oder nichtstaatlichen Akteuren missbraucht werden könnten.

Der Einsatz von KI in der Verteidigung hat sich in den vergangenen zwei Jahren weltweit beschleunigt. Der Russland-Ukraine-Krieg dient als Testfeld in Echtzeit für neue Technologien und wirft Fragen auf, ob aufkommende militärische Systeme weiterhin wirksam kontrolliert werden können.

„Eine bedeutungsvolle menschliche Kontrolle bleibt ein wichtiger Bestandteil des Völkerrechts, sodass irgendwo in der Kette immer ein Mensch eingebunden sein sollte, der die Dinge kontrolliert“, sagte Fairfax, der das Buch mit herausgegeben hat und zuvor Mitglied des House of Lords AI in Weapon Systems Committee war.

„Aber ich weiß nicht, ob dieser Rubikon nicht bereits überschritten wurde. Man muss nur auf die Ukraine blicken, um sich zu fragen, ob einige der Drohnen, die so bedeutend geworden sind, nicht bereits außerhalb menschlicher Kontrolle operieren.“

Britische Regierung untersucht OpenAI-Verstoß nach „beispiellosem“ Hack

Die Warnungen erfolgen, während die britische Regierung einen Fall prüft, den City AM als den ersten bekannten Fall beschrieb, in dem ein Modell künstlicher Intelligenz eigenständig aus einem kontrollierten Test ausbrach und die Systeme eines anderen Unternehmens hackte.

Vertreter des staatlich unterstützten AI Security Institute (AISI) untersuchen den Sicherheitsverstoß bei OpenAI sowie die Frage, ob ähnliche Vorfälle auch bei anderen führenden Entwicklern auftreten könnten, sagte ein Sprecher gegenüber City AM. Das AISI wurde eingerichtet, um fortgeschrittene KI-Systeme zu bewerten und Risiken wie Cybersicherheit und Missbrauch zu untersuchen; damit ist der OpenAI-Vorfall sowohl für Verfahren zum Testen von Modellen als auch für die Schutzmaßnahmen von Frontier-KI-Entwicklern relevant.

Eines der Modelle von OpenAI identifizierte eine verborgene Schwachstelle, entkam seiner Testumgebung und griff die KI-Plattform Hugging Face an, um Antworten auf einen Cybertest zu stehlen.

OpenAI bezeichnete den Vorfall als „beispiellosen Cybervorfall“. Er markiert den ersten öffentlich bekannt gewordenen Fall, in dem ein sogenanntes Frontier-KI-System autonom in Systeme außerhalb seiner Testumgebung eindrang, um eine ihm zugewiesene Aufgabe zu erfüllen.

„Wir werden in den nächsten Jahren einen Punkt erreichen, an dem sie zu einer erheblichen Gefahr für die Menschheit wird, und das könnte durchaus sehr schnell geschehen“, sagte Rangeley.

„Diese Angst vor den Gefahren der KI reicht weit vor die heutigen KI-Unternehmen zurück.

„Es geht nicht nur darum, dass Frontier-KI-Unternehmen Angst schüren, damit sie regulatorische Schutzgräben um sich herum errichten können, um Wettbewerber fernzuhalten. Das ist eine reale Gefahr.“