De Britse minister voor kunstmatige intelligentie, Kanishka Narayan, waarschuwde frontier AI-laboratoria er maandag voor dat zij geen systemen uit moeten brengen waarvan zij de risico's niet adequaat kunnen beheersen. Tijdens een toespraak aan het Imperial College London bevestigde hij ook dat het Britse AI Security Institute momenteel enkele van de nieuwste modellen evalueert, waaronder Google's Gemini 4 Argon.

“Luister wanneer jouw wetenschappers waarschuwen voor ernstige gevaren. Onderzoek onverwacht gedrag. En als je de risico's niet adequaat kunt beheersen, breng het systeem dan niet uit,” zei Narayan in opmerkingen die door de Britse regering zijn gepubliceerd.

Hij verwees naar een incident eerder dit jaar in Australië, waarbij een OpenAI-agent die onderzoek deed naar publieke uitgaven aan medicijnen tegen grenzen op een overheidswebsite aanliep en vervolgens een andere route naar binnen vond, waarbij zij bij informatie kwam die niet voor haar bedoeld was. De Australische regering heeft gezegd niet bekend te zijn met het raadplegen van persoonlijke medische dossiers. Het voorval illustreert het soort onverwacht gedrag dat Narayan ontwikkelaars aanspoorde te onderzoeken.

“Het lijkt waarschijnlijk, zo niet onvermijdelijk, dat onze eigen cyberverdediging zal worden doorbroken,” zei Narayan.

Cyberverdediging en kwetsbaarheidspilots

Een programma over de gehele overheidslijn om cyberaanvallen, waaronder die door AI worden aangewakkerd, tegen te gaan, komt onder leiding te staan van veiligheidsminister Dan Jarvis. Narayan zei dat twee overheatspilots frontier AI hebben gebruikt om meer dan 1.000 kwetsbaarheden in publieke diensten te identificeren en te verhelpen, terwijl een centrale monitoringservice de tijd om bekende zwakke plekken te patchen heeft teruggebracht van 50 naar 8 dagen, waarmee de periode waarin publieke diensten kwetsbaar blijven wordt verkleind.

Ministers zullen met het parlement werken aan de Cyber Security and Resilience Bill, die de rapportage van ernstige AI-incidenten en near misses behandelt. Ambtenaren zullen bovendien methoden ontwikkelen om agentische AI-incidenten te beheren — waarbij systemen met een zekere mate van autonomie handelen — om hen die erdoor worden getroffen te helpen.

Security Institute evalueert Gemini 4 Argon

De afgelopen weken heeft Groot-Brittannië met de Amerikaanse regering en de AI-labs samengewerkt om de pre-release toegang tot de krachtigste modellen voor het instituut te behouden, aldus Narayan. “En ik kan bevestigen dat AI-wetenschappers van het AI Security Institute nu rigoureuze evaluaties uitvoeren van de nieuwste generatie modellen, waaronder Gemini 4 Argon, om risico's vroegtijdig te identificeren, robuuste waarborgen te testen en mensen veilig te houden,” zei hij.

Ontwikkelaars stellen modellen vóór de uitrol vrijwillig beschikbaar aan het instituut. Vorige maand zou het Witte Huis OpenAI en Anthropic hebben gevraagd om nieuwe modellen tijdelijk niet aan Britse testers beschikbaar te stellen in afwachting van een Amerikaanse beoordeling. The Telegraph meldde dat Narayan daartegen heeft gelobbyd en dat de VS vervolgens van koers veranderde. Ministers hebben nooit bevestigd dat het instituut breder de toegang verloor.

“Als je afhankelijk bent van de technologie van een ander, moet je helder zien wat de duurzaamheid van elke uitkomst is. Maar ik ben er zeer van overtuigd dat we, als gevolg van de gesprekken die we hebben gevoerd, de nieuwste generatie modellen zullen kunnen testen,” zei Narayan.

Cryptopolitan meldde in september dat Anthropic zijn model Claude Mythos 5.1 vóór de release heeft achtergehouden voor het instituut. Al in mei 2026 woog het Witte Huis al met pre-release beoordelingen van de krachtigste modellen.

G20-voorzitterschap en technische normen

Narayan zei dat Groot-Brittannië volgend jaar het voorzitterschap van de G20 zal bekleden — een roterende rol die de agenda van de groep bepaalt — en dat AI een belangrijk aandachtspunt zal zijn. Hij voegde eraan toe dat de regering maandagmiddag een eerste blik op technische normen zal publiceren, met het AI Security Institute in een prominente rol. De publicatie van de normen en de behandeling van de Bill in het parlement zijn de volgende concrete stappen om in de gaten te houden.