Un debate se desarrolla en las redes sociales y dentro de los muros de OpenAI sobre por qué la empresa despidió la semana pasada a tres miembros de su equipo de seguridad. Tanto los ex empleados como OpenAI han emitido ahora declaraciones adicionales para aclarar sus versiones de los hechos.

La disputa va más allá de las decisiones de personal de una sola empresa: en el fondo se encuentran preguntas sobre cuánta visibilidad deberían tener los investigadores externos sobre los modelos de IA de frontera, y si los empleados que impulsan esa visibilidad pueden hacerlo sin poner en riesgo sus empleos.

Dos de los investigadores despedidos—Tomek Korbak y Mikita Balesni—trabajaron en la investigación de OpenAI sobre el incidente de seguridad de Hugging Face reportado previamente por Fortune. Korbak se desempeñaba como punto de contacto técnico de METR, la firma de investigación externa que OpenAI contrató para realizar una auditoría independiente del incidente—el tipo de revisión externa en la que se apoyan los laboratorios de IA para respaldar sus afirmaciones de seguridad sobre sus sistemas más capaces. La tercera empleada despedida, Jasmine Wang, era gerente de programa del equipo de seguridad de OpenAI.

The Wall Street Journal reportó primero los despidos el 1 de octubre. En ese momento, OpenAI dijo que las personas "manejaron indebidamente información sensible fuera de los procedimientos establecidos por la empresa, violando nuestras políticas y quebrantando la confianza esencial para nuestro trabajo".

Los ex empleados publican una carta respondiendo a las acusaciones

Desde entonces, la conversación y la polémica parecen haber continuado dentro de las filas de OpenAI, lo que llevó a los tres ex empleados a coescribir una carta de cuatro páginas, publicada el 8 de octubre.

La carta responde a "diversas versiones de los hechos que circulan" entre el personal de OpenAI y hace referencia a unas "comunicaciones internas y externas" en curso sobre el despido que, según dicen los ex empleados, están haciendo que los empleados actuales tengan "miedo de hablar".

"Despidos como el nuestro, ejecutados y comunicados de manera tan abrupta, están enfriando la cultura abierta que OpenAI ha valorado en el pasado", dice la carta. "Es esa cultura la que venimos a defender".

Los dos temas principales de la carta son la capacidad de OpenAI para monitorear sus modelos avanzados y su colaboración con organizaciones de seguridad externas como METR—ambos factores que determinan cuánto pueden evaluar los actores externos sistemas que de otra manera no pueden observar. Los ex empleados niegan haber filtrado a The Information preocupaciones sobre la capacidad de monitorear el modelo Astra, el más reciente de OpenAI, sobre el cual el medio publicó un artículo el 1 de septiembre. También niegan cualquier conducta indebida en sus comunicaciones con METR.

Los ex empleados urgen a OpenAI a preservar la capacidad de monitorear de cerca sus modelos avanzados, a cumplir su compromiso de incorporar auditores de seguridad externos dentro de la organización y a fomentar una cultura abierta y transparente.

"Nos preocupa que nuestros desos puedan usarse para justificar el fin del trabajo de OpenAI con METR, o dar a los auditores externos un acceso y un alcance mucho más limitados", dice la carta.

Versiones encontradas sobre las razones de los despidos, pero nada concreto

OpenAI no ha revelado las razones específicas de los despidos, pero dijo a Fortune que encontró un patrón de mala conducta por parte de los tres empleados, incluyendo una serie de violaciones que contravenían claramente sus políticas de manejo de información. La empresa no vinculó los despidos con sus comunicaciones con METR ni con el incidente de Hugging Face.

Cada ex empleado ofreció esta semana una breve explicación individual en publicaciones en redes sociales que enlazan a la carta conjunta.

Korbak dijo en X que OpenAI le comunicó verbalmente, no por escrito, que fue "despedido por la forma en que me comuniqué con METR".

"La semana pasada me llamaron a una reunión con el jefe de seguridad de OpenAI y me dijeron que ya no confiaban en mí. Un guardia de seguridad tomó mi credencial y me sacó del edificio", dijo Korbak. "Hablar con METR era mi trabajo".

Wang dijo en X que la razón que OpenAI le dio fue que accedió al correo electrónico de un ejecutivo no identificado. Dijo que la empresa le otorgó ese acceso para labores de reclutamiento y que, cuando ya no lo necesitaba, pidió al departamento de TI que lo eliminara, pero su solicitud nunca se completó.

"No fuimos los primeros en ser expulsados de OpenAI en circunstancias sospechosas", dijo Wang. "A menos que los empleados tomen una postura ahora contra este tipo de maniobras, me temo que no seremos los últimos. El mensaje para todos los que aún están en OpenAI es claro: plantea preocupaciones o trabaja estrechamente con grupos de seguridad externos, y podrías ser el siguiente, sin que te digan por qué".

Balesni dijo en X que él y sus colegas investigadores "fueron despedidos por priorizar la seguridad sobre los intereses de corto plazo de OpenAI como corporación".

¿Tiene OpenAI una cultura de seguridad poco saludable?

En respuesta a la carta, OpenAI envió un memorando interno a los empleados y emitió una declaración pública en X. "Nuestra investigación interna descubrió una violación significativa de confianza que va más allá de lo descrito en la carta que publicaron, y respaldamos la decisión de no continuar con su empleo", dijo la empresa.

La falta de claridad sobre qué hicieron exactamente los empleados, o qué pudieron haber compartido con METR, ha alimentado la especulación sobre lo ocurrido. METR no respondió a la solicitud de comentarios de Fortune.

"No puedo ver un escenario en el que las acciones de OpenAI estén justificadas aquí", dijo Neel Nanda, empleado de Google DeepMind que trabajó previamente en Anthropic, en una publicación en X. "Despedir a personas por un intento de buena fe de usar su mejor juicio en una situación novedosa e incierta es una señal de una cultura altamente poco saludable".

El ex líder de transparencia de seguridad de OpenAI, David Robinson, también se pronunció este mes sobre la cultura de seguridad "rota" de la empresa en un artículo de opinión en The Atlantic, escribiendo que la empresa no está "ni cerca de ser lo suficientemente segura" y que depende del "ensayo y error". Señaló el incidente de Hugging Face como evidencia, argumentando que las salvaguardas que OpenAI implementó en respuesta aún no lograron prevenir más incidentes fuera de control.

OpenAI compartió con Fortune una parte del memorando interno enviado a los empleados por sus líderes de investigación—presuntamente escrito por Mark Chen, director de investigación, aunque la empresa no especificó al autor. El memorando reafirmó el compromiso de OpenAI de trabajar con evaluadores de seguridad externos y dijo que "la capacidad de monitoreo es de la máxima importancia para nosotros".

"Valoro nuestra cultura abierta de debate, especialmente en lo que respecta a la seguridad, y considero que esta apertura es críticamente importante para tomar las decisiones correctas", dijo el memorando. "Quiero ser muy claro: estas decisiones no se debieron a haber planteado preocupaciones de seguridad ni a haber hablado. Siempre lo hemos alentado y siempre lo haremos".

OpenAI dijo que sigue comprometida a trabajar con evaluadores de seguridad externos y está finalizando contratos que anunciará "en las próximas semanas". El alcance de acceso que esos acuerdos otorguen a los evaluadores externos—y qué tanto se asemeja a los arreglos integrados que la carta insta a OpenAI a preservar—será la indicación más concreta de cómo toman forma esos compromisos declarados.

Esta historia fue reportada originalmente por Fortune.