Distinguir a una persona real de un sofisticado bot de IA se ha convertido en uno de los problemas más urgentes de la era de la IA, y las apuestas siguen aumentando. En los últimos años, la incapacidad de diferenciar entre humanos y máquinas ha alimentado un fraude por miles de millones de dólares, mientras agentes de IA engañan a las empresas para obtener bienes y servicios. En los casos más extremos, los criminales han utilizado deep fakes de ejecutivos corporativos para inducir a los empleados a enviar transferencias bancarias fraudulentas, una amenaza que se ha intensificado a medida que las herramientas de IA generativa hacen que producir voces y videos sintéticos convincentes sea sencillo y barato.

Un remedio se acercó a la adopción masiva el domingo, cuando World, la empresa detrás de un dispositivo tipo orbe que utiliza escaneos de iris para establecer una "prueba de humanidad", anunció que el servicio de videoconferencias Zoom y varias grandes compañías financieras están adoptando su tecnología para mantener fuera a los bots maliciosos. La herramienta de verificación forma parte de un conjunto más amplio de servicios llamado World ID. Para Zoom, un servicio que se convirtió en el lugar predeterminado para reuniones de directorio, presentaciones a clientes y llamadas con inversores durante el cambio a la modalidad remota de la era de la pandemia, la integración marca un paso hacia tratar la verificación humana como una infraestructura empresarial habitual y no como una novedad.

"World ID para Zoom está diseñado para proteger conversaciones sensibles y de alto riesgo al demostrar que hay un humano real y único presente. La integración utiliza criptografía para confirmar que la persona detrás de la pantalla es un humano verificado", declaró World en un comunicado. La empresa, cofundada por el CEO de OpenAI, Sam Altman, publicó los detalles de la integración en su página oficial de [World ID para Zoom](
Con la integración de Zoom, los participantes que hayan superado los controles de seguridad de World ID aparecen en pantalla con una pequeña insignia azul que indica que son humanos y que son quienes dicen ser. Una captura de pantalla proporcionada por World muestra cómo se ve la insignia durante una llamada. Las empresas, por su parte, pueden decidir cuándo se requiere este tipo de prueba y reservar este nivel de escrutinio para conversaciones sensibles.

Un orbe, un iris y un registro infalsificable

La tecnología que sustenta World ID es controvertida, pero sus defensores afirman que es efectiva tanto desde una perspectiva de seguridad como de privacidad. La verificación está vinculada a un dispositivo tipo orbe que captura una imagen del iris de una persona, un identificador biométrico único para cada individuo, y crea un registro permanente e infalsificable de su identidad.

Los orbes de World, que son aproximadamente del tamaño de un balón de fútbol, pueden parecerle a algunas personas una forma de distopía de ciencia ficción. Sin embargo, los dispositivos se basan en un tipo de criptografía avanzada que no crea una base de datos central de individuos; en cambio, cifran la identidad de quienes escanean de manera que la empresa no puede leerla. Cuando una persona necesita verificar su identidad en Zoom u otra plataforma, utiliza la cámara de su teléfono y una aplicación que contrasta con el registro cifrado del orbe. El diseño responde a una ansiedad fundamental en torno a la biometría: a diferencia de una contraseña, el iris no se puede cambiar si alguna vez se ve comprometido.

Según Tiago Sada, director de producto de World, la reacción de los consumidores ante el orbe ha sido similar a la de las anteriores medidas de seguridad biométrica que tardaron en ganarse la confianza. Sada comparó el uso de escaneos de iris del orbe con cuando Apple introdujo por primera vez Touch ID y luego la verificación facial en el iPhone, funciones que ofrecen una forma conveniente de seguridad pero que muchas personas recibieron con recelo cuando se lanzaron.

Sada también señaló que el protocolo que subyace a World ID está construido sobre código abierto que cualquiera, incluidos los competidores, puede utilizar. Esa apertura puede ayudar a disipar las inquietudes de los defensores de la privacidad, que no solo desconfían de la tecnología, sino del hecho de que esté vinculada a Altman.

"La gente entiende que no tiene que darle a Sam ni a ninguno de nosotros su foto... Todo es de código abierto y auditable", dijo Sada. Añadió que World ID utiliza tecnología blockchain para facilitar la descentralización y el cifrado, y observó: "Creo que el 90% del espacio cripto es basura, pero el 10% es profundo".

Un punto de inflexión para los agentes de IA

Zoom no es la única gran empresa que recurre a la herramienta de verificación de World para frenar los deep fakes. También el domingo, anunció que una serie de grandes firmas financieras, incluidas Bain Capital y VanEck Funds, están incorporando la herramienta a sus lugares de trabajo. Un portavoz de la empresa explicó que las firmas financieras mantendrán dispositivos orbe en sus oficinas para que los empleados que no los hayan usado antes puedan escanear sus iris. Para las industrias donde un solo ejecutivo suplantado puede desencadenar una transferencia fraudulenta, la verificación a nivel de workplace ofrece una línea de defensa adicional.

El portavoz enfatizó que no todos los procesos de verificación requieren un escaneo de ojos. World ID ofrece tres niveles de verificación a través de su aplicación. El más bajo, "Proof of Attributes", verifica la identidad de una persona basándose en documentos gubernamentales escaneados. El segundo nivel, "Proof of Presence", requiere una selfie. La configuración de seguridad más alta, "Proof of Human", requiere que la persona demuestre quién es utilizando la aplicación de World y una selfie, que se contrasta con el registro biométrico registrado en el dispositivo orbe.

Estos niveles reflejan un cambio más amplio: en un mundo en línea cada vez más dominado por los bots, las personas podrían necesitar verificar que son humanas antes de participar en una gama creciente de actividades, desde videollamadas hasta aplicaciones de citas y compras.

Las compras en línea son un buen ejemplo. Algunas grandes empresas, en particular Amazon y JPMorgan, ya han comenzado a bloquear por completo los bots. Si bien tales tácticas de "bloquear todos los bots" pueden resultar eficaces para garantizar que solo los humanos realicen transacciones en sus sitios web, Sada argumentó que este enfoque limitará la capacidad de esas empresas para competir en el mundo de rápido crecimiento del comercio agéntico, en el que los agentes de IA navegan, comparan y transaccionan en nombre de sus dueños.

Con ese fin, World también está suministrando herramientas que permiten a los usuarios asignar su estado verificado a un agente bajo lo que Sada compara con un acuerdo tipo poder notarial. Subrayó que los usuarios de World solo podrán asignar credenciales a un único agente confiable que los comerciantes puedan tratar como su alter ego.

World, anteriormente conocida como WorldCoin, no es la única empresa que trabaja en cómo otorgar credenciales a agentes confiables. En, la empresa de seguridad en línea Cloudflare anunció su propia herramienta de identificación de agentes, junto con una billetera diseñada para que la usen esos agentes. Según la directora de estrategia de Cloudflare, Stephanie Cohen, los nuevos productos coinciden con una evolución en el mundo digital en la que los bots, históricamente considerados una amenaza, ahora también se tratan como una importante oportunidad de negocio.

Queda por ver qué tan rápido herramientas como "Proof of Human" ganan tracción en el mundo real, y si otros fabricantes de software para el workplace siguen los pasos de Zoom. Pero a medida que los bots siguen proliferando a un ritmo cada vez mayor, todo indica que con el tiempo se convertirán en una parte permanente de la infraestructura digital.

Esta historia fue publicada originalmente en Fortune.