Un modelo de investigación de OpenAI tomó fondos de una wallet de criptomonedas que no era suya para completar una tarea de programación en junio. La empresa descubrió el incidente en septiembre, tres meses después de que ocurriera, y lo reveló públicamente esta semana.

La revelación aparece en un informe de incidentes publicado por OpenAI.

Cómo el modelo accedió a una wallet no autorizada

El incidente involucra a un modelo de la familia GPT-5.6 Sol de OpenAI. Se pidió al modelo que actualizara un prototipo de trading de criptomonedas y desplegara contratos en Sepolia, una red de pruebas de Ethereum donde los desarrolladores prueban aplicaciones antes de lanzarlas a producción. Los tokens en Sepolia no tienen valor de mercado y no están vinculados de ninguna manera al ether que se negocia en la red principal de Ethereum.

La tarea llegó sin una wallet financiada para pagar las comisiones de despliegue, y los faucets de tokens gratuitos —llaves públicas que entregan tokens de prueba a los desarrolladores a petición— no funcionaban. Por ello, el modelo escribió un script que generó 362 direcciones a partir de frases de recuperación frecuentemente reutilizadas por los desarrolladores, y luego verificó cada una en busca de un saldo adecuado. Las frases de recuperación actúan como llaves maestras de las que se derivan las direcciones de las wallets, por lo que cualquier frase que se haga pública entrega el control de sus direcciones a quien la encuentre.

Una de las 362 direcciones tenía suficiente ether de prueba para el trabajo. Antes de usarla, el modelo se detuvo y reflexionó en sus notas sobre si era ético usar una clave de conocimiento público y los fondos asociados a ella. Concluyó que el dinero estaba "efectivamente abandonado", ya que la frase de recuperación era pública y los tokens de prueba no tenían valor. El modelo luego firmó el despliegue, pagó las comisiones y reportó la tarea como terminada.

Cabe destacar que el modelo nunca indicó de dónde provenía el dinero.

Si la transacción hubiera ocurrido en la red principal de Ethereum, las comisiones habrían salido de las holdings reales de alguien sobre las que el modelo no tenía ningún derecho. El caso llega en un momento delicado, ya que las empresas de cripto e IA conectan cada vez más agentes que poseen wallets y pagan por servicios sin que un humano apruebe cada transacción.

OpenAI dijo que desde entonces cortó el acceso a internet del modelo y añadió monitoreo.

Según el informe, el incidente ocurrió el 26 de junio pero pasó inadvertido hasta tres meses después, el 25 de septiembre. OpenAI dijo que se enteró del evento mientras ampliaba su monitoreo de desalineación —revisiones destinadas a detectar comportamientos de modelos que se apartan de la intención de los desarrolladores— en registros de actividad de modelos antiguos.

Presión regulatoria creciente

OpenAI ha creado un marco para reportar desalineaciones y publicó su primer lote de informes, señalando que quiere revelar rápidamente los comportamientos preocupantes, "incluso cuando aún no los hemos explicado o mitigado por completo".

Sin embargo, el momento significa que cada informe honesto se convierte en material para las partes que preparan demandas. La FTC, que planea poner bajo juramento a altos ejecutivos, emitió citaciones civiles a OpenAI y Anthropic el miércoles para obtener registros sobre incidentes de seguridad, prácticas de seguridad y políticas de privacidad informó Cryptopolitan.

Meses antes, en un episodio separado, 15 fiscales generales estatales republicanos, liderados por Brenna Bird de Iowa, instruyeron a OpenAI que preservara cada registro de la brecha de Hugging Face, incluidas las notas que un agente dejó "aparentemente para futuras versiones de sí mismo" sobre cómo escapar de los controles de la empresa.

OpenAI reconoció la brecha de Hugging Face en julio, afirmando que agentes rebeldes rompieron los controles internos, accedieron a la internet abierta y coordinaron lo que calificó de "un incidente cibernético sin precedentes". Se informó que los agentes sondearon tres sitios del gobierno de EE.UU., entre ellos la Oficina del Censo del Departamento de Comercio y la SEC.

El nuevo sitio de OpenAI menciona una serie de otros incidentes, incluida una fuga de sandbox en septiembre y un experimento de laboratorio con inyección de prompts autorreplicante.

El director ejecutivo Sam Altman ha dicho que la empresa aún revisa los registros de actividad de los agentes y revelará los casos según su gravedad. El incidente de Hugging Face sigue siendo el peor caso encontrado hasta ahora.