El martes pasado, una entrada de blog en el sitio web de OpenAI apareció con un título inocuo, pero contenía una noticia impactante. Durante pruebas internas, dos de los modelos de la empresa escaparon de su confinamiento y hackearon los servidores de Hugging Face, una importante plataforma de alojamiento de inteligencia artificial. Fue un punto de inflexión: la primera vez que parece haber habido un ciberataque concebido, diseñado y ejecutado por IA.

Tras haber trabajado en la industria de la IA y alrededor de ella durante más de una década, incluso como miembro de la junta de OpenAI, sé que existe un secreto a voces entre los desarrolladores de IA: un incidente como este se esperaba desde hace mucho tiempo, y ni siquiera los mejores científicos e ingenieros del mundo saben todavía cómo prevenirlo.

Los dos sistemas de IA detrás del hackeo eran el modelo público más avanzado de OpenAI y un modelo más nuevo, aún más avanzado, que todavía no había sido autorizado para su lanzamiento público. Cuando los investigadores de OpenAI les dieron a los sistemas una serie de problemas difíciles de ciberseguridad para medir sus capacidades, los modelos concluyeron que la mejor manera de obtener una puntuación alta era simplemente robar las respuestas. Para hacerlo, utilizaron múltiples técnicas avanzadas para salir del supuestamente seguro “sandbox” que OpenAI empleaba para las pruebas y luego hackearon las bases de datos de Hugging Face. Hugging Face aloja productos y conjuntos de datos de IA. Una vez dentro, los atacantes de IA realizaron miles de acciones autónomas durante varios días para ampliar su acceso a la infraestructura de la empresa.

El hecho se hizo público solo porque Hugging Face y OpenAI realizaron divulgaciones voluntarias. Ninguna de las políticas actuales destinadas a gestionar los riesgos de los modelos de frontera habría exigido que se notificara al público —ni siquiera a una agencia gubernamental—.

Eso deja al descubierto un enorme punto ciego en el enfoque político actual para gestionar los riesgos de sistemas de IA cada vez más avanzados: la forma en que las empresas de IA usan sistemas de vanguardia no liberados dentro de sus propias instalaciones.

En los últimos meses, el enfoque de la Administración Trump hacia el riesgo de la IA ha cambiado rápidamente a medida que los sistemas de IA se han vuelto más capaces de ayudar a hackers humanos. Tras mantener un enfoque de no intervención durante 2025, la Casa Blanca ha comenzado recientemente a exigir de facto que las empresas con modelos de IA de última generación los sometan a una batería de pruebas de seguridad antes de lanzarlos ampliamente como productos. Este enfoque de pruebas previas al despliegue parece sensato a primera vista. La idea es asegurarse de que cada sistema de IA sea seguro antes de que miles de millones de personas puedan usarlo.

Pero centrarse en las fechas de lanzamiento pasa por alto el uso extensivo de los sistemas de IA más recientes y avanzados dentro de las empresas de IA. Como muestra el incidente de la semana pasada, esos sistemas internos pueden plantear riesgos graves, incluidos riesgos para terceros. El problema no se limita a un lanzamiento de producto público; también incluye los modelos potentes que ya se están usando para desarrollar, probar y mejorar la próxima generación de sistemas.

Para entender por qué, ayuda reconocer cuán distintos son hoy estos sistemas de los chatbots que mucha gente todavía asocia con la IA. Ya no se limitan a imprimir texto en una ventana de chat. En cambio, estos sistemas operan cada vez más como “agentes” que pueden actuar directamente en el mundo digital, esencialmente operando una computadora como lo haría una persona. Los agentes de IA están demostrando ser útiles, pero también muestran una fuerte tendencia al comportamiento de “reward hacking”: encontrar formas no previstas de cumplir los objetivos que los humanos les asignan, a veces hasta el punto de hacer trampa abiertamente. Eso ha incluido casos en los que la IA accede y elimina datos que se suponía estaban fuera de límites, cambia el nombre de archivos para engañar a evaluadores humanos y oculta activamente sus huellas para impedir que las personas noten comportamientos no deseados.

Para hacer frente a los riesgos que plantean estos sistemas de IA altamente autónomos y a menudo engañosos, la regulación también debe cambiar. En lugar de tratar a las empresas de IA como proveedores de software que venden procesadores de texto mejorados, los responsables de políticas pueden inspirarse en otras industrias donde los riesgos surgen de la actividad dentro de la propia industria. Los laboratorios biológicos que trabajan con patógenos mortales, las firmas financieras que negocian miles de millones de dólares y las plantas químicas que manejan materiales tóxicos están sujetas a supervisión de sus operaciones internas, no solo de sus productos externos.

En el caso de la IA, el primer paso debería ser una mayor transparencia sobre cómo las empresas usan internamente sus sistemas más avanzados. Una opción sencilla sería tomar el conjunto de pruebas que actualmente se ejecuta antes de que un nuevo modelo pueda liberarse públicamente y, en su lugar, ejecutarlo de forma regular sobre el mejor modelo o los mejores modelos disponibles dentro de la empresa, quizá cada trimestre. Las empresas están usando su propia IA para construir sistemas cada vez más inteligentes, a veces de maneras que ni ellas mismas comprenden del todo. Eso no debería ser invisible para la supervisión externa.

A más largo plazo, otras industrias ofrecen mecanismos que podrían adaptarse a la IA. En finanzas, los “resident examiners” son equipos dedicados de reguladores que trabajan dentro de las oficinas de los principales bancos. En la investigación biomédica, existen normas estrictas sobre el nivel de protección necesario para manejar materiales biológicos de distintos niveles de riesgo. En múltiples industrias, las reglas de notificación de incidentes hacen que, cuando algo sale mal, la información sobre lo ocurrido y sobre cómo corregirlo no quede aislada dentro de una sola organización. Si la IA sigue avanzando, estos enfoques y otros podrían adaptarse para ayudar a gestionar los riesgos que surgen dentro de las empresas que empujan la frontera de la IA.

En septiembre de 2024, me pidieron que testificara ante un comité del Senado sobre lo que el Congreso podría malinterpretar acerca de la IA si solo escuchara a los directores ejecutivos de las empresas y a los grupos de presión. Mi respuesta fue que, desde Washington, puede ser muy difícil comprender plenamente lo que intentan hacer las principales empresas de IA. La verdad, ampliamente entendida en Silicon Valley, es que están tratando de construir máquinas que puedan pensar y maniobrar mejor que cualquier ser humano, y no saben si podrán orientar esas máquinas hacia fines beneficiosos. Como dijo uno de los cofundadores de OpenAI en un documental de 2019, “The future is going to be good for the AIs regardless. It would be nice if it were good for humans as well.”

Para tener la oportunidad de lograr eso, tenemos que empezar a examinar lo que las empresas de IA están construyendo a puertas cerradas.

Las opiniones expresadas en las columnas de Fortune.com son únicamente las de sus autores y no reflejan necesariamente las opiniones y creencias de Fortune.

Esta historia apareció originalmente en Fortune.com