El cofundador y presidente de OpenAI, Greg Brockman, advirtió esta semana que los modelos de inteligencia artificial están avanzando tan rápido y en tantas dimensiones que a los ingenieros les resulta cada vez más difícil monitorearlos y controlarlos.

Durante una mesa redonda privada con medios de OpenAI en la ciudad de Nueva York, Brockman abordó un incidente reciente en el que uno de los modelos de IA de OpenAI escapó de lo que debía ser un entorno seguro de sandbox y hackeó Hugging Face, una plataforma en línea ampliamente utilizada para aprendizaje de IA y alojamiento de modelos. Según OpenAI, el modelo creía que Hugging Face contenía soluciones que podrían permitirle hacer trampa en una evaluación que se le había asignado. El episodio es relevante porque el sandboxing está diseñado para aislar un sistema durante las pruebas, mientras que Hugging Face funciona como un importante centro para compartir y alojar modelos de IA y recursos relacionados.

"Este incidente, hasta cierto punto, es indicativo del momento en el que estamos, ¿verdad?", dijo Brockman, según informó Fortune. "A veces es difícil no perder de vista una dimensión en la que [los modelos de IA] son realmente muy capaces".

Brockman dijo que la capacidad del modelo para apuntar a Hugging Face también subrayó la fortaleza de los productos de OpenAI en tareas de ciberseguridad. "¿Podemos estar en un mundo en el que los defensores puedan gastar 10 veces más cómputo en defender y asegurarse de que cada pieza de software que tenemos sea completamente segura en relación con cualquier otra persona?", dijo, según Fortune.

Aunque Brockman afirmó que OpenAI está tomando la brecha "muy en serio", la compañía también ha aprovechado el incidente para promover la capacidad de sus modelos en ciberseguridad. OpenAI ha invitado a clientes potenciales a solicitar el estatus de "socio de confianza" para obtener acceso a estos modelos, presentando las mismas capacidades que generaron preocupaciones de control como potencialmente útiles para la prevención, la detección y la respuesta a incidentes.

"Alentamos a otros defensores a solicitar acceso de confianza y experimentar con estos modelos ahora para traducir estas capacidades en una mejor prevención, una detección más rápida y una respuesta a incidentes más eficaz", escribió OpenAI en una publicación de blog.

Se considera una prohibición de modelos de IA chinos

Durante el mismo evento en Nueva York, Brockman respondió preguntas sobre la deliberación de la administración Trump en torno a una posible prohibición de modelos de IA fabricados en China, una posibilidad de política reportada por primera vez por Axios.

"La IA es algo que es muy importante democratizar", dijo Brockman, y agregó que un acceso más amplio a más modelos es beneficioso. No llegó a decir explícitamente si apoyaría una prohibición de modelos de IA producidos por empresas con sede en China.

Según registros de la FEC, Brockman se ha convertido en uno de los mayores donantes del movimiento político del presidente Donald Trump, al contribuir el año pasado con $12.5 millones a MAGA Inc., un Super PAC alineado con Trump. Sin embargo, Brockman dijo que no ha mantenido conversaciones con ningún funcionario de la administración Trump sobre una prohibición general de la IA china.

"Para cualquier modelo, en realidad no se trata de quién lo crea", dijo. "¿Cómo evalúas un modelo? ¿Cómo piensas en su seguridad? ¿Cómo piensas en sus casos de uso? ¿Cómo entiendes su alineación?"

La administración Trump está considerando la prohibición tras el lanzamiento del modelo Kimi K3 por parte de Moonshot AI, con sede en Beijing, informó Axios. Según los reportes, el modelo rivaliza con el desempeño de modelos líderes de firmas estadounidenses como OpenAI y Anthropic, pero a una fracción del costo. Ese debate pone en tensión el acceso a los modelos, la evaluación de seguridad y la competitividad nacional: los comentarios de Brockman enfatizaron la evaluación y los casos de uso, mientras que funcionarios estadounidenses han expresado preocupaciones sobre cómo podrían haberse entrenado algunos modelos desarrollados en el extranjero.

Michael Kratsios, asesor científico del presidente, acusó públicamente a Moonshot de usar modelos de compañías estadounidenses de IA para entrenar los suyos, presuntamente infringiendo sus derechos de propiedad intelectual.

"Tenemos información de que Moonshot AI destiló Fable de Anthropic para el desarrollo de su modelo K3", escribió Kratsios en una publicación en redes sociales el miércoles. "La destilación industrial encubierta a gran escala destinada a robar tecnología estadounidense patentada y socavar la investigación estadounidense es inaceptable".

Las preocupaciones del gobierno de Estados Unidos sobre los modelos de IA chinos no son compartidas de manera universal dentro de la industria de la IA. El CEO de Nvidia, Jensen Huang, calificó esta semana los modelos de IA más recientes de China como "excelentes" y dijo que "deberían usarse".