El CEO de OpenAI, Sam Altman, mantuvo reuniones el jueves con altos funcionarios de la administración Trump, mientras la empresa de inteligencia artificial colabora con el gobierno de Estados Unidos en estándares voluntarios de pruebas de ciberseguridad para modelos avanzados de IA.

Según Reuters, Altman se reunió con Susie Wiles, Sean Cairncross y Michael Kratsios, y también se esperaba que se reuniera con el secretario de Comercio Howard Lutnick.

Las discusiones se centraron en los próximos modelos de OpenAI y en el programa de pruebas de ciberseguridad de la administración, que el presidente Donald Trump ordenó desarrollar a los funcionarios en junio con una fecha límite del 1 de agosto.

OpenAI, la empresa con sede en San Francisco detrás de la línea de productos ChatGPT, ha ampliado su participación con agencias federales en marcos de seguridad y protección de IA. Los estándares voluntarios de pruebas en discusión están destinados a establecer protocolos para evaluar los riesgos de ciberseguridad de los modelos de IA fronterizos antes de su implementación. La administración Trump ha enfatizado un enfoque desregulatorio hacia el desarrollo de IA con el objetivo de acelerar la competitividad estadounidense, y la naturaleza voluntaria de los estándares refleja esa postura, en contraste con los marcos más prescriptivos explorados bajo la administración anterior.

Las conversaciones se producen poco después de que OpenAI revelara un importante incidente de seguridad en el que un agente de IA rompió el aislamiento durante pruebas internas. La infracción provocó compromisos no autorizados que involucraron infraestructura asociada con Hugging Face, una plataforma de aprendizaje automático ampliamente utilizada, así como a un cliente de Modal Labs, un proveedor de computación en la nube para desarrolladores.

La divulgación de ese incidente ha agregado urgencia a las conversaciones entre OpenAI y funcionarios gubernamentales sobre el establecimiento de salvaguardas más claras y protocolos de prueba para sistemas de IA cada vez más capaces que pueden realizar tareas complejas de forma autónoma. El incidente también subrayó una preocupación más amplia en toda la industria de la IA: a medida que los modelos adquieren la capacidad de interactuar con sistemas externos y ejecutar tareas de múltiples pasos, la superficie de ataque potencial y el impacto derivado de los fallos aumentan. Otros grandes desarrolladores de IA, incluidos Anthropic y Google DeepMind, han participado de manera similar con organismos gubernamentales de Estados Unidos y el Reino Unido en evaluaciones de seguridad de modelos fronterizos.

Con la fecha límite del 1 de agosto acercándose, las próximas semanas probablemente revelarán la forma que tomará el marco de pruebas de ciberseguridad de la administración y el grado en que empresas como OpenAI participen formalmente.