NoticiasCriptoCoinbase dice que su IA bloqueó 4,7 millones de dólares en estafa de sorteo cripto con deepfake de Elon Musk

Coinbase dice que su IA bloqueó 4,7 millones de dólares en estafa de sorteo cripto con deepfake de Elon Musk

Autor: Bitcoin Magazine·

Puntos clave

  • •El agente de prevención de estafas con IA de Coinbase detuvo aproximadamente 4,7 millones de dólares en fondos de clientes, bloqueando cerca del 91% de los alrededor de 5,2 millones de dólares que los usuarios intentaron enviar a estafadores.
  • •El esquema utilizó una transmisión falsa de YouTube con un deepfake de Elon Musk que prometía duplicar cualquier cripto enviada y atrajo a más de medio millón de espectadores durante la demo del 'coche volador' de Tesla.
  • •Coinbase enfatizó que ninguna cuenta fue hackeada ni se robaron credenciales, ya que los clientes autorizaron las transferencias ellos mismos, dejando el envío saliente como el último punto donde los fondos podían interceptarse.
  • •El agente de detección nunca había sido entrenado en sorteos con deepfake vinculados a lanzamientos de productos en vivo, pero reconoció el patrón gracias a señales como la promesa de multiplicar fondos y una transferencia irreversible.
  • •Coinbase dijo que está ampliando la revisión automatizada con IA de envíos riesgosos a todo tipo de estafas y usando IA para etiquetar nuevos casos, de modo que sus modelos aprendan en horas en lugar de semanas.
Coinbase dice que su IA bloqueó 4,7 millones de dólares en estafa de sorteo cripto con deepfake de Elon Musk

Coinbase (COIN) informó que su agente de prevención de estafas basado en IA impidió que aproximadamente 4,7 millones de dólares en fondos de clientes llegaran a estafadores que usaron un deepfake de Elon Musk para promover un falso sorteo cripto de Tesla, bloqueando cerca del 91% del dinero que los clientes intentaron enviar.

El exchange detalló el incidente en una publicación de blog del martes, parte de una serie semanal sobre protección al consumidor, y señaló que el sistema operó "sin intervención humana": los envíos señalados fueron detenidos por sistemas automatizados en lugar de revisores humanos.

Esas dos cifras implican que los clientes intentaron enviar unos 5,2 millones de dólares en total, y que alrededor de 460.000 dólares aún salieron de sus cuentas. Coinbase no reveló cuánto de ese dinero llegó a los estafadores.

Una transmisión en vivo que no era real

El esquema se ejecutó en paralelo a la demo del "coche volador" de Tesla. Los estafadores montaron una transmisión de YouTube diseñada para parecer la emisión real, con un Musk generado por deepfake, direcciones de billeteras en pantalla y un código QR. La transmisión prometía duplicar cualquier cripto enviada y atrajo a más de medio millón de espectadores, según Coinbase.

A lo largo de unas dos horas, cientos de clientes de Coinbase, muchos de ellos usuarios de larga data, intentaron enviar millones de dólares a las direcciones mostradas en pantalla. Coinbase no dijo cuándo se transmitió la emisión falsa ni qué monedas intentaron enviar los clientes.

La empresa subrayó que su plataforma no fue vulnerada. "Nadie fue hackeado", escribió Coinbase. "Ninguna cuenta de Coinbase fue violentada, no se robó ninguna contraseña ni se suplantaron credenciales".

Ese detalle es lo que hace difícil detener el fraude de sorteos, ya que la mayoría de las defensas buscan actividad no autorizada por el titular de la cuenta y, en este caso, los clientes iniciaron sesión y presionaron confirmar ellos mismos, dejando el envío saliente como el último punto donde el dinero podía ser interceptado. "Nuestros sistemas pueden ver señales de riesgo en tiempo real. No pueden ver la intención", indicó la publicación.

Cómo funciona el agente

Coinbase dijo que su defensa tiene tres partes. Los modelos de aprendizaje automático primero puntúan los envíos salientes en tiempo real, observando patrones de sorteos, suplantación de marcas y direcciones de billeteras recién creadas. El objetivo, escribió la empresa, es "atrapar el peligro, no al cliente".

Cuando un envío es marcado, un agente especializado en estafas toma el control: busca contexto, identifica el patrón de la estafa, explica cómo funcionan los esquemas de sorteos y hace preguntas destinadas a desmoronar la historia. Cada respuesta recibe una puntuación de confianza antes de que el cliente la vea, de modo que el sistema sabe cuándo una situación requiere más fricción.

El agente nunca había sido entrenado en este tipo de engaño, según Coinbase. Los sorteos con deepfake vinculados a lanzamientos de productos en vivo no estaban en sus datos de entrenamiento. "Aun así reconoció la forma del esquema", escribió la empresa, señalando la promesa de multiplicar fondos, el plazo de un evento en vivo y una transferencia que no podía revertirse.

Falsificaciones más baratas

Coinbase dijo que los deepfakes han cambiado la economía de la estafa. Montar algo así antes requería "un equipo, un estudio y semanas", escribió. "Ahora se necesita un espacio de transmisión en vivo y un modelo". En términos prácticos, eso significa que una falsificación convincente puede producirse con la suficiente rapidez para aprovechar la atención de un lanzamiento real de producto, como ocurrió con esta transmisión.

La empresa dijo que está ampliando la revisión con IA de envíos riesgosos a todo tipo de estafas, no solo a las de alto perfil, y también usa IA para etiquetar nuevos casos de estafas, de modo que sus modelos aprendan de los ataques en cuestión de horas en lugar de semanas.

La ingeniería social ha sido un problema persistente para los clientes de Coinbase. En septiembre, un hombre de Brooklyn fue sentenciado a 12 años de prisión por una estafa de phishing de 16 millones de dólares relacionada con Coinbase. Esta semana, clientes de Trezor reportaron llamadas fraudulentas después de que una brecha en el socio de envíos del fabricante de billeteras de hardware expusiera 27.000 pedidos.

La publicación se conoció el mismo día en que Coinbase lanzó un plugin de ChatGPT para operar bitcoin, acciones y derivados, que, a diferencia del agente de estafas totalmente automatizado, requiere que los usuarios aprueben cada orden.

Coinbase cerró la publicación con una lista de cosas que nunca hará, incluida la promesa de duplicar, triplicar o multiplicar la cripto que los clientes envían. "Nadie legítimo duplicará tu cripto", escribió la empresa.

Este artículo apareció originalmente en Bitcoin Magazine y fue escrito por Micah Zimmerman.