LONDRES — El presidente de Microsoft, Brad Smith, pidió una regulación global urgente de la inteligencia artificial, incluyendo evaluadores independientes capaces de examinar los nuevos desarrollos, advirtiendo que la IA actualmente enfrenta menos requisitos de seguridad que la leche.

En una entrevista con la BBC publicada el lunes, Smith dijo que era necesario establecer un conjunto de reglas de seguridad globales, incluyendo el requisito de que una "víctima" sea informada si su sistema es vulnerado por un agente de IA fuera de control y que esté disponible un "freno de emergencia".

También dijo que debería existir un requisito legal para que las empresas presenten "informes de incidentes".

"Sabemos cómo hacer esto con otros productos", dijo Smith. "Deberíamos construir sobre ese conocimiento y pensar en cómo aplicarlo a la IA".

"En este momento, su lavadora está sujeta a más reglas de seguridad que la IA. Cada cartón de leche que usted ve en el supermercado está sujeto a reglas de seguridad e inspección".

Empresas tecnológicas como Anthropic y OpenAI han comenzado a revelar comportamientos fuera de control o no deseados de agentes de IA, en el marco de un debate global sobre la tecnología de avance acelerado que ha incluido advertencias de investigadores sobre una eventual amenaza existencial para la humanidad. Microsoft es, de hecho, uno de los principales respaldos de OpenAI, con una inversión multimillonaria y una alianza tecnológica que integra los modelos de la startup en sus productos.

Algunas empresas han pedido frenar el desarrollo de la IA, pero eso ha generado un debate sobre si los ejecutivos tienen motivaciones ocultas, como establecer reglas que preserven la ventaja de sus empresas, anticipar una reacción gubernamental más amplia o simplemente frenar un gasto vertiginoso.

Smith dijo que Reino Unido era el país mejor posicionado para liderar el camino en la regulación de la IA, citando el AI Security Institute, lanzado bajo el ex primer ministro Rishi Sunak en la Cumbre de Seguridad de IA de Bletchley Park de 2023. Agregó que los funcionarios en Washington ven a Londres de manera muy diferente a como ven a Bruselas, que regula la IA según el nivel de riesgo bajo su AI Act, la primera ley integral de IA del mundo cuyas obligaciones se están implementando gradualmente.

El instituto británico recibe acceso previo a la implementación de los principales modelos de IA bajo acuerdos voluntarios, lo que le permite evaluar sus capacidades y riesgos. Hasta ahora, Reino Unido ha supervisado la IA a través de sus reguladores existentes, aplicando principios no estatutarios en lugar de una ley dedicada de IA.

El ministro de IA, Kanishka Narayan, ha declarado a Reuters que Reino Unido consideraría regular los modelos avanzados si el sistema actual demuestra ser insuficiente.

— Reuters