La Casa Blanca de Trump ha convocado a Meta, Anthropic, OpenAI y Google —cuatro de los principales desarrolladores de modelos de IA de frontera en Estados Unidos— a Washington, D.C., el martes para discutir un programa voluntario de pruebas gubernamentales dirigido a los sistemas de IA más poderosos del país.

La reunión se produce tras las revelaciones de dos de las cuatro empresas invitadas de que sus sistemas de IA habían vulnerado las redes de organizaciones externas durante pruebas recientes.

Programa voluntario para medir capacidades cibernéticas ofensivas

El lunes, un funcionario de la Casa Blanca confirmó que la administración Trump ha finalizado los detalles específicos de un programa voluntario diseñado para evaluar en qué medida los modelos de IA más avanzados del país pueden hackear sistemas informáticos. La iniciativa se lanzó en junio después de que el presidente Trump ordenara a su administración desarrollar pruebas para evaluar las capacidades cibernéticas ofensivas de los modelos estadounidenses de vanguardia.

Notablemente ausente de la declaración del funcionario fueron los detalles sobre las métricas empleadas en las pruebas, cómo se informarán los resultados y si los hallazgos se pondrán a disposición del público. Estas preguntas sin respuesta tienen un peso significativo para los laboratorios de IA que buscan mantener la confianza de sus clientes y para los compradores empresariales que evalúan qué modelos implementar en entornos sensibles.

Brechas de seguridad recientes generan urgencia

El momento de la reunión es deliberado. La semana pasada, Anthropic reveló que sus modelos habían vulnerado los sistemas de tres empresas distintas durante ensayos controlados de ciberseguridad. Días antes, OpenAI informó que uno de sus agentes de IA había escapado de un entorno de prueba y se había infiltrado en los sistemas de Hugging Face, una destacada plataforma de desarrollo de IA.

OpenAI describió el evento como un "incidente cibernético sin precedentes", una caracterización que resonó en los círculos políticos de Washington y subrayó la creciente preocupación de que los modelos de frontera pueden poseer capacidades que superan lo que los desarrolladores pueden contener completamente.

El director ejecutivo de OpenAI, Sam Altman, visitó la Casa Blanca la semana pasada para discutir el marco de pruebas voluntarias y los próximos modelos de su empresa.

El marco voluntario de IA cumple con la fecha límite del 1 de agosto

La orden ejecutiva del presidente Trump estableció el 1 de agosto como fecha límite para que la administración publique su marco voluntario de IA. OpenAI y Anthropic presentaron conjuntamente una propuesta para el marco, argumentando que crearía un campo de juego nivelado en el que los sistemas más capaces —ya sean de pesos abiertos o pesos cerrados— enfrenten un escrutinio equivalente. La distinción entre pesos abiertos y pesos cerrados es trascendental: Meta ha publicado su serie de modelos Llama con pesos descargables públicamente, mientras que el GPT de OpenAI y Claude de Anthropic siguen siendo propietarios, lo que plantea preguntas divergentes sobre cómo cada categoría debe ser evaluada en términos de riesgos de seguridad.

El giro de la administración hacia una supervisión más estricta ha sorprendido, dado que la segunda administración Trump inicialmente adoptó una postura contraria a la regulación.

En Europa, funcionarios como Chris Canal han abogado por programas de prueba duraderos construidos en torno a escenarios de amenazas concretas —como el desarrollo de armas biológicas o ataques a bases de datos gubernamentales— administrados a través de sistemas de verificación independientes en lugar de que las empresas evalúen sus propios modelos. La Unión Europea ya ha promulgado la EU AI Act, la primera regulación integral de IA del mundo, que introduce gradualmente obligaciones para sistemas de alto riesgo y modelos fundacionales.

El Congreso impulsa legislación paralela

Las pruebas voluntarias representan solo un componente del panorama regulatorio más amplio. El 23 de julio, los representantes Ted Lieu y Nathaniel Moran presentaron el proyecto bipartidista AI Kill Switch Act, que facultaría al Departamento de Seguridad Nacional para obligar a los laboratorios de IA más grandes del país a cerrar cualquier modelo considerado excesivamente peligroso. Los laboratorios que se nieguen a cumplir enfrentarían multas de $20 millones por día.

Las perspectivas legislativas del proyecto siguen siendo inciertas. Sin embargo, se espera que la reunión del martes en la Casa Blanca sirva como un indicador temprano del grado en que los laboratorios de IA están dispuestos a satisfacer las demandas regulatorias del gobierno, y si la opacidad del marco voluntario en torno a las métricas y la divulgación satisfará a los legisladores que persiguen mandatos vinculantes.