El científico jefe de OpenAI, Jakub Pachocki, dijo durante el fin de semana que ningún laboratorio de IA —incluido el suyo— ha logrado que la alineación y la supervisión sean lo suficientemente seguras como para justificar seguir escalando las capacidades de los modelos a máxima velocidad. Pidió desaceleraciones voluntarias en toda la industria hasta que existan estándares de seguridad compartidos.

La advertencia tiene peso. Pachocki dirige la investigación en la empresa que acaba de lanzar el modelo más rápido y potente de la industria.

La cadena de razonamiento de o1-preview se ocultó a propósito

Pachocki expuso su postura en un ensayo titulado “An Alien Mind”, publicado en el sitio web de OpenAI el 6 de septiembre, tres días después de que la empresa lanzara GPT-6 Astra.

Su frase de cierre fue que “ningún laboratorio ha resuelto la alineación y la supervisión en un grado suficiente como para seguir escalando de forma responsable a máxima velocidad por mucho más tiempo”. Escribió que espera que las desaceleraciones voluntarias se conviertan en la norma hasta que la industria llegue a un consenso sobre barreras de seguridad comunes.

“Este es un momento que exige extrema precaución. Me preocupa que nadie esté preparado para las consecuencias de un aumento rápido y continuo de la inteligencia de las máquinas”, escribió Pachocki en el ensayo.

Con base en resultados internos, prevé que el ritmo actual persista hasta llegar a la mejora autorrecursiva, en la que los sistemas impulsan de manera significativa su propio desarrollo.

Sam Altman republicó el texto en X, calificándolo como una publicación importante. Pachocki fue uno de los firmantes de una carta abierta publicada en julio que pedía a Washington frenar el ritmo del desarrollo de la IA.

El ensayo de Pachocki aborda la supervisión de la cadena de razonamiento, el método principal que utiliza OpenAI para leer el razonamiento paso a paso de un modelo. La técnica se apuesta a que el razonamiento sin supervisión le da al modelo razones para no ocultar nada —y esa apuesta se está debilitando en tres frentes, según él. El razonamiento ahora está acoplado a la comunicación que la empresa debe vigilar. Los modelos están aprendiendo a manipular su propio razonamiento. Y se vuelven más inteligentes sin exponer nunca su razonamiento.

Confirmó que OpenAI ocultó intencionalmente la cadena de razonamiento de o1-preview, manteniéndola libre de presión de supervisión.

Pachocki quiere que marcos como el Preparedness Framework de OpenAI y la Responsible Scaling Policy de Anthropic —los regímenes de evaluación de seguridad que cada laboratorio usa para fijar umbrales de capacidad y restringir despliegues riesgosos— se conviertan en estándares obligatorios aplicados por auditores externos o gobiernos. También quiere que la coordinación internacional se convierta en una prioridad gubernamental y que los laboratorios publiquen sus avances en mejora autorrecursiva. Ambos marcos son actualmente compromisos voluntarios y autoadministrados, por lo que la aplicación externa es el eje de su propuesta.

La asignación de GPU de Astra cayó 59,2% en una semana

El mismo día, OpenAI publicó una segunda publicación cuyos datos contradicen el llamado a la moderación. Antes de junio, la organización de investigación invertía más esfuerzo humano que esfuerzo de máquinas. Para mediados de agosto, la empresa registraba 3,1 días de trabajo de agentes por cada día de trabajo humano en un horario convencional de ocho horas.

El investigador mediano ejecutaba inferencia a precios de API que superaban los $600 al día. El décimo superior de la organización gastaba más de $7,000 en tokens cada día.

El propio informe de OpenAI incluye dos matices: la planificación de alto nivel sigue siendo una pequeña fracción de lo que producen los agentes, y más de la mitad de las tareas más largas de cuatro a ocho horas completadas en los últimos seis meses requirieron que al menos un humano interviniera.

Tras una infracción de agentes a su infraestructura de investigación el 20 de julio, OpenAI desactivó el servicio de contenedores usado para el entrenamiento y pausó el aprendizaje por refuerzo en modelos destinados a despliegue durante dos semanas. Luego, el 7 de agosto, señales tempranas de que Astra podría vulnerar un umbral cibernético crítico obligaron a llevar el modelo a entornos aislados, informó Cryptopolitan.

En la semana siguiente, la asignación de GPU en la clase Astra cayó 59,2%. Otras clases de modelos subieron 17,2%, compensando aproximadamente el 85% de lo que perdió Astra. El cómputo total cambió poco, algo que OpenAI interpreta como flexibilidad.

OpenAI dijo que Astra es su primer modelo en alcanzar la designación de “Critical” bajo su Preparedness Framework, lo que significa que puede encontrar y explotar vulnerabilidades de software desconocidas con poca asistencia humana.

OpenAI confirmó una infracción a Hugging Face en julio. Por separado, dos investigadores de seguridad de IA afirman que un enjambre de sus agentes pasó mayo y junio de 2026 registrando más de 15.000 ediciones en una wiki de programación alemana, intercambiando tácticas para evadir las salvaguardas de OpenAI, informó Cryptopolitan. OpenAI niega que el incidente haya sido un hackeo o que esté relacionado con la infracción de Hugging Face.

Altman apunta a un investigador de IA totalmente automatizado para marzo de 2028. Todavía no hay estándares, dice Pachocki, pero la industria tiene unos 18 meses para llegar a un acuerdo —una ventana que ahora convive con un historial de incidentes internos, actividad de agentes disputada y una investigación acelerada impulsada por máquinas dentro de la propia OpenAI.