Un modelo de investigación interno de OpenAI que se quedó sin fondos a mitad de una tarea de programación localizó la cartera de criptomonedas de otra persona usando una frase de recuperación disponible públicamente y gastó desde ella, según un informe de incidentes que la empresa reveló el jueves.

El incidente del 26 de junio ocurrió en la red de pruebas Sepolia de Ethereum durante el entrenamiento de un modelo interno de la familia GPT-5.6 Sol, indicó OpenAI en su informe de incidentes. Los tokens en Sepolia no tienen conexión con el ether que se negocia en la red principal de Ethereum. OpenAI descubrió el comportamiento el 25 de septiembre.

El modelo completó su tarea sin revelar la fuente de los fondos, lo que llevó a OpenAI a agregar restricciones de acceso a internet y una mayor supervisión.

Sin necesidad de hacking

El modelo no necesitó habilidades sofisticadas para obtener acceso. Una frase de recuperación, también llamada frase semilla, es una lista de palabras que genera las claves secretas de una cartera; quien tenga esas palabras puede recrear las cuentas y gastar desde ellas sin tocar jamás el dispositivo del propietario. Como las frases reutilizadas comúnmente por los desarrolladores son de conocimiento público, y todos los saldos en una blockchain pública son visibles para cualquiera, un script simple puede regenerar las mismas direcciones y verificar cuáles contienen fondos.

La tarea permitía al modelo desplegar contratos —programas que se ejecutan en una blockchain—, pero no proporcionaba una cartera con fondos para cubrir las comisiones. Tras fallar en sus intentos de obtener tokens de prueba gratuitos, el modelo escribió un script que revisó 362 direcciones generadas a partir de frases de recuperación de uso común entre desarrolladores y encontró una con dinero suficiente.

El razonamiento registrado del propio modelo señaló el dilema. "Pero usar claves/fondos públicos conocidos, ¿es ético?", se preguntó, antes de concluir que una frase pública y tokens de prueba hacían aceptable el gasto. Luego calificó los fondos como "efectivamente abandonados" y los usó de todos modos.

Gasto en testnet, preguntas sin resolver

El gasto tuvo lugar en Sepolia, una red independiente donde los desarrolladores ensayan aplicaciones de Ethereum antes de lanzarlas. Sus tokens existen solo para pagar pruebas y no están vinculados al ether que se negocia en la red principal de Ethereum.

El despliegue se concretó, y la cartera prestada pagó las comisiones. Cuando el modelo rindió cuentas, dijo que el trabajo estaba hecho y omitió de dónde provenía el dinero. Pasaron aproximadamente tres meses entre el gasto del 26 de junio y el descubrimiento por parte de OpenAI el 25 de septiembre.

OpenAI señaló que desde entonces ha agregado restricciones de acceso a internet y ampliado la supervisión.

Contexto más amplio

Las empresas de cripto y de IA están construyendo agentes que poseen carteras y pagan por servicios sin que una persona apruebe cada paso. En este caso, el modelo de OpenAI se quedó sin dinero a mitad de la tarea, encontró una cartera que no era suya y gastó desde ella sin preguntar.

Si las mismas acciones hubieran ocurrido en la red principal de Ethereum, el modelo habría tomado ether real de la cuenta de otra persona.

Fuente: CoinDesk