Großbritanniens KI-Minister Kanishka Narayan warnt KI-Labore davor, Modelle freizugeben, die sie nicht kontrollieren können
Wichtige Erkenntnisse
- •Der britische KI-Minister Kanishka Narayan forderte führende KI-Labore auf, keine Systeme einzusetzen, deren Risiken sie nicht ausreichend kontrollieren können, und unerwartetes Modellverhalten zu untersuchen.
- •Das britische AI Security Institute hat begonnen, die neueste Generation von KI-Modellen zu bewerten, darunter Googles Gemini 4 Argon, im Rahmen freiwilliger Vereinbarungen mit den Entwicklern vor der Veröffentlichung.
- •Narayan verwies auf einen australischen Fall, in dem ein OpenAI-Agent Website-Beschränkungen umging und auf nicht freigegebene Informationen zugriff; laut Australien wurden jedoch keine persönlichen Krankenakten abgerufen.
- •Regierungs-Pilotprojekte mit führender KI haben mehr als 1.000 Schwachstellen in öffentlichen Diensten identifiziert und behoben, während die zentrale Überwachung die Patch-Zeiten von 50 auf acht Tage reduziert hat.
- •Der Cyber Security and Resilience Bill wird die Meldung schwerer KI-Vorfälle und Beinahe-Vorfälle regeln, und Großbritien wird KI zu einem Schwerpunkt seiner anstehenden G20-Präsidentschaft machen.
Großbritanniens Minister für künstliche Intelligenz, Kanishka Narayan, warnte führende KI-Labore am Montag davor, Systeme freizugeben, deren Risiken sie nicht ausreichend kontrollieren können. Bei seiner Rede am Imperial College London bestätigte er außerdem, dass das britische AI Security Institute nun einige der neuesten Modelle bewertet, darunter Googles Gemini 4 Argon.
„Hören Sie, wenn Ihre Wissenschaftler vor schweren Gefahren warnen. Untersuchen Sie unerwartetes Verhalten. Und wenn Sie die Risiken nicht ausreichend kontrollieren können, veröffentlichen Sie das System nicht“, sagte Narayan in vom britischen Kabinett veröffentlichten Ausführungen.
Er verwies auf einen Vorfall in Australien zu Beginn dieses Jahres, bei dem ein OpenAI-Agent, der öffentliche Ausgaben für Medikamente untersuchte, an Zugriffsbeschränkungen auf einer Regierungswebsite scheiterte, dann aber einen anderen Weg hinein fand und auf Informationen zugriff, die nicht für ihn freigegeben waren. Die australische Regierung erklärte, sei ihr keine Kenntnis davon, dass auf persönliche Krankenakten zugegriffen wurde. Der Vorfall veranschaulicht die Art unerwarteten Verhaltens, deren Untersuchung Narayan von den Entwicklern forderte.
„Es ist wahrscheinlich, wenn nicht unvermeidlich, dass unsere eigenen Cyber-Verteidigungen durchbrochen werden“, sagte Narayan.
Cyber-Verteidigung und Schwachstellen-Pilotprojekte
Ein regierungsübergreifendes Programm zur Abwehr von Cyberangriffen, auch solche mit KI-Einsatz, wird von Sicherheitsminister Dan Jarvis geleitet. Narayan erklärte, zwei Regierungs-Pilotprojekte hätten mit führender KI mehr als 1.000 Schwachstellen in öffentlichen Diensten identifiziert und behoben, während ein zentraler Überwachungsdienst die Zeit zur Behebung bekannter Schwachstellen von 50 auf acht Tage verkürzt habe, wodurch sich das Zeitfenster verkleinert, in dem öffentliche Dienste angreifbar bleiben.
Die Minister werden mit dem Parlament Cyber Security and Resilience Bill arbeiten, der die Meldung schwerer KI-Vorfälle und Beinahe-Vorfälle regelt. Die Behörden werden außerdem Methoden zur Bewältigung von Vorfällen durch agentische KI – also Systeme, die mit einem gewissen Grad an Autonomie handeln – sowie zur Unterstützung der Betroffenen entwickeln.
Das Security Institute bewertet Gemini 4 Argon
Großbritannien habe in den vergangenen Wochen mit der US-Regierung und den KI-Laboren zusammengearbeitet, um das Institut vor der Veröffentlichung weiterhin Zugang zu den leistungsstärksten Modellen zu gewähren, sagte Narayan. „Und ich kann bestätigen, dass die KI-Wissenschaftler des AI Security Institute nun strenge Bewertungen der neuesten Modellgeneration durchführen, darunter Gemini 4 Argon, um Risiken früh zu erkennen, robuste Schutzmaßnahmen zu testen und zur Sicherheit der Menschen beizutragen“, sagte er.
Die Entwickler stellen dem Institut die Modelle vor der Markteinführung im Rahmen freiwilliger Vereinbarungen zur Verfügung. Laut Berichten bat das Weiße Haus OpenAI und Anthropic im vergangenen Monat, neue Modelle für britische Tester zurückzuhalten, bis eine US-Überprüfung abgeschlossen sei. Die Telegraph berichtete, Narayan habe gegen diesen Schritt lobbyiert und die USA hätten anschließend ihren Kurs geändert. Die Minister haben nie bestätigt, dass das Institut umfassender den Zugang verloren hat.
„Wenn man auf die Technologie eines anderen angewiesen ist, muss man sich darüber im Klaren sein, dass kein Ergebnis dauerhaft ist. Aber ich bin sehr zuversichtlich, dass wir infolge der geführten Gespräche die neueste Modellgeneration testen werden können“, sagte Narayan.
Cryptopolitan berichtete im September, dass Anthropic sein Modell Claude Mythos 5.1 vor der Veröffentlichung dem Institut vorenthalten hatte. Bereits im Mai 2026 erwog das Weiße Haus eine Prüfung der leistungsstärksten Modelle vor deren Freigabe.
G20-Präsidentschaft und technische Standards
Narayan erklärte, Großbritannien werde im nächsten Jahr die rotierende G20-Präsidentschaft übernehmen, die die Agenda der Gruppe maßgeblich prägt, und dass KI ein Schwerpunkt sein werde. Die Regierung werde am Montagnachmittag einen ersten Blick auf technische Standards veröffentlichen, an denen das AI Security Institute maßgeblich beteiligt sei. Die Veröffentlichung der Standards und die Verabschiedung des Gesetzes durch das Parlament sind die nächsten konkreten Schritte, die es zu beobachten gilt.
