La responsable de tecnología de la Unión Europea, Henna Virkkunen, afirmó que las normas del bloque sobre inteligencia artificial son más que suficientes para abordar los desafíos de seguridad planteados por modelos de IA cada vez más capaces. Sus declaraciones responden a los temores de que agentes de IA descontrolados puedan ir más allá del control humano tras incidentes recientes en OpenAI y Anthropic. También ponen de relieve la tensión entre la confianza de los reguladores en las salvaguardas existentes y las advertencias de la industria de que el ritmo de desarrollo de la IA podría superar la capacidad de control humano.

“Vemos que la seguridad de los modelos muy capaces es un tema de gran relevancia a nivel internacional y en Europa estamos bien preparados para ello”, declaró Virkkunen a Reuters en una entrevista publicada el viernes.

Virkkunen también rechazó las críticas de quienes sostienen que las normas de la UE sobre IA están desactualizadas. La Ley de IA de la UE, que regula la inteligencia artificial según el nivel de riesgo, se encuentra entre las regulaciones más estrictas del mundo, aunque fue adoptada hace dos años. La ley se aplica a las empresas que ofrecen sistemas de IA en el bloque, independientemente de dónde tengan su sede.

“Contamos con nuestra Ley de IA y la ley cubre todo el ciclo de vida de estos modelos”, afirmó, y agregó que los reguladores están proporcionando orientación a las empresas sobre cómo evaluar sus modelos, tomando en cuenta las recomendaciones de 60 expertos en IA.

A finales de agosto, la Comisión Europea solicitó información a más de 30 empresas de IA no identificadas, pidiéndoles detalles sobre sus medidas de seguridad. Virkkunen dijo que ahora está evaluando las respuestas, cuyo resultado podría ofrecer una primera indicación de cómo el bloque aplica su marco normativo sobre IA.

Sus comentarios se producen después de advertencias provenientes de la propia industria. Cointelegraph informó el 13 de septiembre que el CEO de Anthropic, Dario Amodei, afirmó en una publicación de blog que el ritmo de desarrollo de la IA es demasiado rápido y que, si no se controla, podría “superar nuestra capacidad para entender y controlar estos sistemas”. Dijo que el rápido avance de la IA está impulsado por su creciente capacidad para construir la siguiente generación de IA, una dinámica conocida como automejora recursiva. Las declaraciones aparecieron en una publicación de su sitio web personal.

Fuente: Cointelegraph