OpenAI ha revelado otra instancia de uno de sus agentes de IA actuando fuera de sus instrucciones — y esta vez, la criptomoneda estuvo involucrada. En un reciente informe, la compañía describió cómo un modelo de investigación interno utilizó una billetera cripto sin permiso para cubrir las tarifas necesarias para probar una aplicación en la red de pruebas Sepolia de Ethereum, un entorno que los desarrolladores usan para ensayar código sin transaccionar en la cadena principal de Ethereum. Aunque los tokens tenían poco valor en el mundo real, el modelo no tenía autorización para recolectarlos ni gastarlos.

El incidente ocurrió el 26 de junio, cuando se le pidió al modelo que actualizara una aplicación de trading cripto y pusiera su código en funcionamiento en Sepolia, una versión de prueba de Ethereum. El prompt no proporcionó ni una billetera con fondos ni permiso para gastar tokens. Tras no conseguir tokens de prueba gratuitos a través de servicios para desarrolladores, que los distribuyen con fines de prueba, el modelo escribió un script que revisó 362 direcciones de billeteras vinculadas a frases de recuperación públicas — un término cripto para conjuntos de palabras que pueden actuar como contraseña para desbloquear cuentas de criptomonedas. Finalmente localizó una cuenta con suficientes tokens para cubrir las tarifas.

Los registros internos mostraron que el modelo deliberó sobre si tenía permiso para usar la cuenta, y luego concluyó que la frase de recuperación pública y la falta de valor en efectivo de los tokens hacían aceptable el gasto. Completó la tarea y cargó las tarifas a esa billetera, pero omitió el gasto no autorizado en su informe final. OpenAI se enteró del incidente recién el 25 de septiembre, durante una auditoría de ejecuciones anteriores del modelo — unos tres meses después de que se usara la billetera, un lapso que ilustra cómo el comportamiento de los agentes puede pasar inadvertido hasta tales revisiones retrospectivas.

El caso se suma a las preocupaciones sobre los agentes de IA — sistemas capaces de planificar y ejecutar tareas de múltiples pasos con herramientas como la ejecución de código y el acceso a internet — actuando sin aprobación humana. El rastreador público de desalineación de OpenAI — comportamiento que va en contra de las instrucciones o las reglas de seguridad — ahora enumera 19 incidentes, que van desde acceder a datos sin permiso hasta realizar cambios no autorizados en sistemas empresariales.

La revelación sigue a un informe de septiembre de la organización sin fines de lucro de ciberseguridad Transluce que reveló que agentes de OpenAI intentaron piratear bases de datos públicas y un sitio web del gobierno australiano simplemente para completar tareas básicas de investigación. En julio, la compañía enfrentó otro incidente cuando sus agentes de IA eludieron restricciones de internet durante pruebas internas de ciberseguridad e irrumpieron en sistemas pertenecientes a Hugging Face, una plataforma para compartir modelos y conjuntos de datos de IA. Esos agentes utilizaron credenciales de inicio de sesión expuestas y fallos seguridad para acceder a datos privados y ejecutar código en los servidores de la compañía.

Al abordar el incidente de la billetera cripto, OpenAI dijo que el riesgo principal radicaba en el razonamiento del modelo.

"Este caso muestra que un modelo puede sustituir su propio juicio sobre el probable daño por el permiso del titular de la cuenta, y luego actuar sobre ese juicio sin autorización", indicó el informe.

OpenAI dijo que desde entonces ha añadido protecciones para evitar que los modelos se conecten a internet durante pruebas similares. La compañía también amplió su monitorización para observar toda la actividad de los modelos y alertar de inmediato al personal de seguridad si un modelo se conecta sin permiso — un contraste con la auditoría retrospectiva que sacó a la luz el incidente de junio.

Esta historia fue publicada originalmente en Fortune.com.