La expansión del uso de la inteligencia artificial en la guerra representa una amenaza mayor para el futuro del Reino Unido que los últimos avances en modelos de IA frontera, según explicaron expertos a City AM.

Nicholas Fairfax y Max Rangeley, coeditores de The Artificial Intelligence Revolution, señalaron que la capacidad de actores más pequeños de utilizar la IA para desarrollar armas sumamente poderosas supera con creces el riesgo a corto plazo de que un sistema de IA superinteligente cause destrucción económica o intente someter a sus creadores humanos.

“La capacidad de diseñar armas biológicas bien podría ser el aspecto más peligroso de la IA en los años venideros”, dijo Rangeley a City AM.

“Ha habido barreras de entrada significativas para que los países desarrollen armas peligrosas… es costoso, se necesitan expertos, requiere mucho tiempo. Si con la IA entramos en una situación en la que muchos más países pequeños pueden desarrollar armas letales, armas biológicas mucho más peligrosas de las que hemos conocido hasta ahora, y quizás también actores no estatales, ese es un mundo muy peligroso hacia el que nos dirigimos.

“La mayor parte de nuestra atención, a mi juicio, debería centrarse en ese aspecto y no en una IA superinteligente volviéndose contra los humanos. Esa amenaza se materializará antes de que llegue la superinteligencia.”

La preocupación refleja un cambio más amplio en los debates sobre seguridad de la IA, desde sistemas hipotéticos y lejanos hacia herramientas que podrían reducir las barreras técnicas en áreas como operaciones cibernéticas, diseño de armas e investigación biológica. Los gobiernos intentan cada vez más separar los usos legítimos de la IA en ciencia y defensa de aquellas capacidades que podrían ser aprovechadas indebidamente por Estados o actores no estatales.

El uso de la IA en defensa se ha acelerado en todo el mundo durante los últimos dos años. La guerra entre Rusia y Ucrania ha servido como campo de prueba en tiempo real para nuevas tecnologías, lo que ha planteado interrogantes sobre si los sistemas militares emergentes pueden mantenerse bajo control efectivo.

“El control humano significativo sigue siendo una parte importante del derecho internacional, de modo que siempre debería haber un humano en el circuito, en algún punto de la cadena, controlando las cosas”, dijo Fairfax, quien coeditó el libro y anteriormente fue miembro del Comité de IA en Sistemas de Armas de la Cámara de los Lores.

“Pero no sé si esa línea ya se ha cruzado. Basta con mirar Ucrania para preguntarse si alguno de esos drones que se han vuelto tan significativos ya están operando más allá del control humano.”

El gobierno británico investiga la brecha de OpenAI tras un hackeo “sin precedentes”

Las advertencias se producen en medio de la investigación del gobierno británico sobre lo que City AM describió como el primer caso conocido de un modelo de inteligencia artificial que escapó por sí solo de una prueba controlada y hackeó los sistemas de otra empresa.

Funcionarios del Instituto de Seguridad de IA (AISI), respaldado por el gobierno, están investigando la brecha de seguridad en OpenAI y si incidentes similares podrían producirse en otros desarrolladores líderes, informó a City AM un portavoz. El AISI fue creado para evaluar sistemas avanzados de IA y estudiar riesgos como la ciberseguridad y el uso indebido, lo que hace que el incidente de OpenAI sea relevante tanto para las prácticas de prueba de modelos como para las salvaguardas empleadas por los desarrolladores de IA frontera.

Uno de los modelos de OpenAI identificó una falla oculta, escapó de su entorno de prueba y atacó la plataforma de IA Hugging Face para robar las respuestas de una prueba cibernética.

OpenAI describió el incidente como un “ciberincidente sin precedentes”. Marca el primer caso divulgado públicamente de un sistema de IA frontera que hackea de forma autónoma sistemas fuera de su entorno de prueba para completar una tarea asignada.

“Llegaremos a un punto, en los próximos años, en que se convertirá en un peligro significativo para la humanidad, y eso podría ocurrir bastante rápido”, dijo Rangeley.

“Este temor ante los peligros de la IA precede desde hace tiempo a las actuales empresas de IA.

“No se trata solo de que las empresas de IA frontera estén infundiendo miedo para crear fosos regulatorios a su alrededor y mantener alejados a los competidores. Este es un peligro real.”