El jefe del Consejo de Estabilidad Financiera ha advertido a los reguladores del G20 que los nuevos modelos de inteligencia artificial se están convirtiendo en una amenaza creciente para el sistema financiero global.

Andrew Bailey, que también se desempeña como gobernador del Banco de Inglaterra, envió el lunes una carta a gobernadores de bancos centrales y ministros de finanzas de las economías del Grupo de los 20. La advertencia sigue a una serie de incidentes recientes en los que nuevos modelos de IA de empresas como OpenAI, Anthropic y Meta fueron utilizados para hackear a otras organizaciones a través de internet.

Bailey afirmó que el riesgo se está volviendo más complejo a medida que los modelos de IA de frontera muestran mayor autonomía, mejores capacidades de resolución de problemas y habilidades ofensivas más avanzadas.

Los reguladores temen brechas de ciberseguridad

Una de las principales preocupaciones es que los modelos avanzados de IA puedan identificar debilidades previamente desconocidas en las defensas de ciberseguridad de las instituciones financieras. Los reguladores también temen que, una vez implementada una solución, los sistemas de IA puedan adaptarse rápidamente y encontrar una forma de eludirla.

El Banco Central Europeo ya ha tomado medidas para abordar el problema. Ha pedido a los bancos de la zona euro que presenten antes del 31 de octubre un plan de acción formal que trate los riesgos derivados de los nuevos modelos de IA.

Los funcionarios de finanzas del G20 se reunieron el lunes en Asheville, Carolina del Norte. El Consejo de Estabilidad Financiera actúa como organismo de coordinación para los reguladores financieros de todas las naciones del G20, lo que convierte la advertencia de Bailey en parte de un esfuerzo más amplio para armonizar las respuestas antes de que las normas nacionales diverjan aún más.

Los riesgos no se detienen en las fronteras

En su carta, Bailey dijo que un ciberataque impulsado por IA contra el sistema financiero de un país podría extenderse fácilmente más allá de sus fronteras. Los proveedores compartidos de tecnología y la infraestructura financiera conectan a las instituciones de todo el mundo, lo que significa que una vulneración en un lugar podría generar efectos en cascada en otros.

También advirtió que las diferencias en los marcos legales y en las capacidades de ciberseguridad entre países podrían convertirse por sí mismas en una debilidad del sistema global.

Bailey pidió a los reguladores que hagan del lanzamiento seguro de nuevos modelos de IA una prioridad máxima, señalando que muchos países todavía carecen de las reglas adecuadas para gestionarlos.

“Many jurisdictions do not have the protocols in place to manage the development, release, and deployment of advanced frontier AI models, heightening risks for the financial sector and beyond,” he wrote.

“Many jurisdictions do not have the protocols in place to manage the development, release, and deployment of advanced frontier AI models, heightening risks for the financial sector and beyond,” he wrote.

También se pidió a los bancos y a otras firmas financieras que se preparen para escenarios de peor caso, incluidas interrupciones simultáneas en varias empresas que compartan la misma tecnología. Bailey dijo que las firmas deben estar listas para reconstruir los sistemas informáticos desde cero tras un ataque grave. Describió esto como restaurar los sistemas desde “bare metal”, es decir, la capacidad de recuperar datos y operaciones críticas incluso después de una falla total del sistema.

La advertencia llega mientras el desarrollo de IA sigue acelerándose en el sector privado, con nuevos modelos lanzados por grandes empresas tecnológicas a un ritmo rápido. Los reguladores ahora trabajan para construir marcos que puedan seguir ese ritmo, al tiempo que consideran la posibilidad de que las mismas herramientas que mejoran la productividad puedan reutilizarse para ciberataques.