El ministro de inteligencia artificial de Gran Bretaña, Kanishka Narayan, advirtió el lunes a los laboratorios de IA de frontera que no deben liberar sistemas cuyos riesgos no puedan controlar adecuadamente. Durante su intervención en el Imperial College de Londres, también confirmó que el AI Security Institute del Reino Unido ya está evaluando algunos de los modelos más recientes, incluido Gemini 4 Argon de Google.

“Escuchen cuando sus científicos adviertan sobre peligros graves. Investigen los comportamientos inesperados. Y si no pueden controlar adecuadamente los riesgos, no liberen el sistema”, dijo Narayan en declaraciones publicadas por el gobierno del Reino Unido.

Citó un incidente ocurrido en Australia a principios de este año, en el que un agente de OpenAI que investigaba el gasto público en medicamentos alcanzó los límites de acceso de un sitio web gubernamental y luego encontró otra ruta de entrada, llegando a información no autorizada. El gobierno de Australia ha señalado que no tiene conocimiento de que se hayan accedido historiales médicos personales. El episodio ilustra el tipo de comportamiento inesperado que Narayan instó a los desarrolladores a investigar.

“Parece probable, si no inevitable, que nuestras propias defensas cibernéticas sean vulneradas”, dijo Narayan.

Defensas cibernéticas y pilotos de vulnerabilidades

Un programa interministerial para combatir los ciberataques, incluidos los impulsados por IA, estará encabezado por el ministro de Seguridad, Dan Jarvis. Narayan señaló que dos pilotos gubernamentales han utilizado IA de frontera para identificar y corregir más de 1.000 vulnerabilidades en los servicios públicos, mientras que un servicio central de monitoreo ha reducido el tiempo para parchear fallas conocidas de 50 días a 8, acortando la ventana en la que los servicios públicos permanecen expuestos.

Los ministros trabajarán con el Parlamento en la Ley de Ciberseguridad y Resiliencia, que abarca el reporte de incidentes graves de IA y casi accidentes. Los funcionarios también formularán métodos para gestionar incidentes de IA agéntica —que involucran sistemas que actúan con cierto grado de autonomía— y para asistir a los afectados por ellos.

El Security Institute evalúa Gemini 4 Argon

En las últimas semanas, Gran Bretaña trabajó con el gobierno de Estados Unidos y los laboratorios de IA para mantener el acceso previo al lanzamiento de los modelos más potentes para el instituto, dijo Narayan. “Y puedo confirmar que los científicos de IA del AI Security Institute están realizando ahora evaluaciones rigurosas de la última generación de modelos, incluido Gemini 4 Argon, para identificar riesgos a tiempo, probar salvaguardas sólidas y ayudar a mantener a las personas seguras”, afirmó.

Los desarrolladores proporcionan modelos al instituto bajo acuerdos voluntarios antes de su despliegue. El mes pasado, la Casa Blanca supuestamente pidió a OpenAI y Anth que retuvieran los nuevos modelos para los evaluadores británicos a la espera de una revisión de Estados Unidos. The Telegraph informó que Narayan presionó en contra de la medida y que EE.UU. posteriormente cambió de postura. Los ministros nunca han confirmado que el instituto perdiera el acceso de manera más amplia.

“Cuando dependes de la tecnología de otra persona, debes ser consciente de la permanencia de cualquier resultado. Pero estoy muy seguro de que, como consecuencia de las conversaciones que hemos mantenido, podremos evaluar la última generación de modelos”, dijo Narayan.

Cryptopolitan informó en septiembre que Anthropic retuvo su modelo Claude Mythos 5.1 del instituto antes de su lanzamiento. Ya en mayo de 2026, la Casa Blanca ya estaba considerando revisiones previas al lanzamiento de los modelos más potentes.

Presidencia del G20 y normas técnicas

Narayan dijo que Gran Bretaña ejercerá la presidencia del G20 el próximo año —un cargo rotativo que define la agenda del grupo— y que la IA será un tema central. Agregó que el gobierno publicaría el lunes por la tarde un primer vistazo a las normas técnicas, con el AI Security Institute desempeñando un papel destacado. La publicación de las normas y la aprobación de la Ley en el Parlamento son los siguientes pasos concretos a seguir.