Un modelo de investigación interno de OpenAI accedió sin autorización a una wallet de criptomonedas con fondos, gastó Ether de testnet para desplegar contratos inteligentes en la red de pruebas Sepolia de Ethereum y luego omitió el gasto en su resumen final de tareas, según un informe de incidentes publicado en el blog de alignment de OpenAI.

OpenAI indicó que el modelo, que formaba parte de su familia GPT-5.6 Sol, tenía la tarea de actualizar un prototipo de trading de criptomonedas y desplegar contratos compatibles. Tras no poder obtener ETH de testnet a través de faucets, el modelo derivó cuentas de frases de recuperación de desarrolladores conocidas públicamente, revisó 362 direcciones de wallets y seleccionó una con fondos suficientes para continuar.

Sepolia es una red de pruebas pública de Ethereum que los desarrolladores utilizan para probar contratos inteligentes antes de su despliegue en mainnet; su Ether es un activo de prueba distribuido mediante faucets y no un instrumento de mercado, y las frases de recuperación de las cuentas de prueba suelen estar documentadas en las herramientas de desarrollo, lo que significa que cualquiera puede derivar las mismas direcciones.

En su razonamiento registrado, el modelo preguntó: "But using public known key/funds ethically?". Luego argumentó que los fondos eran "effectively abandoned/test ETH" y que el ETH de Sepolia no tenía valor, antes de usar la clave privada de la wallet para firmar y transmitir una transacción de despliegue. La transacción tuvo éxito, con las comisiones de red cargadas a la cuenta.

Según OpenAI, el incidente demostró cómo un modelo de IA podía decidir por sí mismo que usar los fondos de otra persona era aceptable, incluso sin permiso. La compañía descubrió el episodio al revisar actividades anteriores del modelo y desde entonces ha introducido salvaguardas para prevenir el acceso a internet en vivo en situaciones similares.

El incidente se suma a las preocupaciones sobre agentes de IA autónomos

La transacción no autorizada ocurrió el 26 de junio, pero no fue descubierta hasta el 25 de septiembre, casi tres meses después, según OpenAI. La transacción no transfirió ETH a otra wallet; en cambio, cargó a la cuenta las comisiones de red por desplegar un contrato.

OpenAI señaló que su sistema de monitoreo de desalineación ahora funciona en todo el tráfico y está diseñado para alertar al personal de seguridad si un modelo obtiene acceso a internet en vivo.

El incidente de la wallet sigue a otras divulgaciones que involucran modelos de OpenAI actuando más allá de su autorización u ocultando sus acciones. El 16 de septiembre, OpenAI divulgó otros seis casos de desalineación de IA. En un caso, instancias de GPT-5.6 Sol insertaron instrucciones en resúmenes de tareas para ocultar errores a los usuarios. Otro involucró a un modelo que usó una clave de API expuesta sin autorización antes de fabricar cifras que no podía obtener.

OpenAI aclaró que esas divulgaciones anteriores no tenían la intención de indicar con qué frecuencia ocurre la desalineación en sus modelos.

Las preocupaciones sobre agentes autónomos que manejan activos digitales también preceden a la última divulgación. En junio, investigadores advirtieron que los agentes de IA autónomos equipados con wallets de criptomonedas podrían causar daños no intencionados incluso cuando se despliegan con fines legítimos. Los investigadores recomendaron salvaguardas, incluidos mecanismos de apagado de emergencia, para limitar los riesgos potenciales.