Distinguere una persona reale da un bot AI sofisticato è diventato uno dei problemi più urgenti dell'era dell'AI—e la posta in gioco continua a salire. Negli ultimi anni, l'incapacità di distinguere umani e macchine ha alimentato frodi per miliardi di dollari, con agenti AI che ingannano le aziende inducendole a fornire beni e servizi. Nei casi più estremi, i criminali hanno utilizzato deep fake di dirigenti aziendali per trarre in inganno i dipendenti e farli inviare bonifici fraudolenti—una minaccia diventata più acuta man mano che gli strumenti di AI generativa rendono semplice ed economico produrre voci e video sintetici convincenti.

Un rimedio si è avvicinato all'adozione di massa domenica, quando World—la società alla base di un dispositivo a sfera che utilizza scansioni dell'iride per stabilire una "proof of humanity"—ha annunciato che il servizio di videoconferenza Zoom e diverse grandi società finanziarie stanno adottando la sua tecnologia per tenere fuori i bot dannosi. Lo strumento di verifica fa parte di una più ampia suite di servizi chiamata World ID. Per Zoom, un servizio diventato la sede predefinita per riunioni del consiglio, presentazioni ai clienti e chiamate con gli investitori durante la svolta del lavoro remoto nell'era della pandemia, l'integrazione segna un passo verso il trattamento della verifica umana come infrastruttura aziendale di routine anziché come novità.

"World ID for Zoom è progettato per proteggere conversazioni sensibili e ad alto rischio dimostrando che è presente un essere umano reale e unico. L'integrazione utilizza la crittografia per confermare che la persona dietro lo schermo è un umano verificato," ha dichiarato World in un comunicato. La società, co-fondata dal CEO di OpenAI Sam Altman, ha pubblicato ili dell'integrazione sulla sua pagina ufficiale World ID for Zoom.

Con l'integrazione di Zoom, i partecipanti che hanno superato i controlli di sicurezza di World ID appaiono sullo schermo con un piccolo badge blu che segnala che sono umani e che sono chi dicono di essere. Uno screenshot fornito da World mostra come appare il badge durante una chiamata. Le aziende, nel frattempo, possono decidere quando tale prova è richiesta e riservare questo livello di controllo alle conversazioni sensibili.

Una sfera, un'iride e un record a prova di manomissione

La tecnologia alla base di World ID è controversa, ma i suoi sostenitori affermano che è efficace sia dal punto di vista della sicurezza che della privacy. La verifica è legata a un dispositivo a sfera che cattura un'immagine dell'iride di una persona—un identificativo biometrico distintivo per ogni individuo—e crea un record permanente e a prova di manomissione della sua identità.

Le sfere di World, grandi più o meno come un pallone da calcio, possono apparire ad alcuni come una forma di distopia fantascientifica. I dispositivi, tuttavia, si affidano a un tipo di crittografia avanzata che non crea un database centrale di individui; invece, cifrano l'identità di coloro che scansionano in un modo che non può essere letto dalla società. Quando un individuo deve verificare la propria identità su Zoom o su un'altra piattaforma, utilizza la fotocamera del telefono e un'app che effettua un controllo incrociato con il record crittografato della sfera. Il design risponde a un'ansia fondamentale legata ai dati biometrici: a differenza di una password, un'iride non può essere cambiata se viene compromessa.

Secondo Tiago Sada, chief product officer di World, la reazione dei consumatori alla sfera è stata simile al lancio di precedenti misure di sicurezza biometriche che hanno richiesto tempo per guadagnarsi la fiducia. Sada ha paragonato l'uso delle scansioni dell'iride da parte della sfera al momento in cui Apple ha introdotto per la prima volta Touch ID e poi la verifica facciale per l'iPhone—funzionalità che offrono una forma di sicurezza conveniente ma che molte persone hanno accolto con sospetto al loro debutto.

Sada ha anche sottolineato che il protocollo alla base di World ID è costruito su codice open source che chiunque, compresi i concorrenti, può utilizzare. Quell'apertura potrebbe alleggerire le preoccupazioni dei sostenitori della privacy che sono a disagio non solo con la tecnologia, ma con il fatto che è legata ad Altman.

"Le persone capiscono che non devi dare a Sam o a ognuno di noi la tua foto… Tutto è open source e verificabile," ha detto Sada. Ha aggiunto che World ID utilizza la tecnologia blockchain per facilitare la decentralizzazione e la crittografia, osservando: "Penso che il 90% dello spazio crypto sia BS, ma il 10% è prof."

Un punto di svolta per gli agenti AI

Zoom non è l'unica grande azienda a rivolgersi allo strumento di verifica di World per fermare i deep fake. Sempre domenica, World ha annunciato che una serie di grandi società finanziarie—tra cui Bain Capital e VanEck Funds—stanno aggiungendo lo strumento ai propri luoghi di lavoro. Un portavoce della società ha spiegato che le società finanziarie manterranno i dispositivi a sfera nei loro uffici affinché i dipendenti che non li hanno mai utilizzati possano scansionare la propria iride. Per i settori in cui un singolo dirigente impersonato può innescare un bonifico fraudolento, la verifica a livello aziendale offre un'ulteriore linea di difesa.

Il portavoce ha sottolineato che non ogni processo di verifica richiede una scansione oculare. World ID offre tre livelli di verifica tramite la sua app. Il più basso, "Proof of Attributes," verifica l'identità di una persona in base a documenti governativi scansionati. Il secondo livello, "Proof of Presence," richiede un selfie. L'impostazione di sicurezza più alta, "Proof of Human," richiede a una persona di dimostrare la propria identità utilizzando l'app World e un selfie, che viene confrontato con il record biometrico registrato con il dispositivo a sfera.

I livelli riflettono uno spostamento più ampio: in un mondo online sempre più dominato dai bot, le persone potrebbero dover verificare di essere umane prima di svolgere una gamma sempre più ampia di attività, dalle videochiamate alle app di incontri fino allo shopping.

Lo shopping online è un caso emblematico. Alcune grandi aziende, in particolare Amazon e JPMorgan, hanno già iniziato a bloccare completamente i bot. Sebbene tali tattiche di "blocco totale dei bot" possano rivelarsi un modo efficace per garantire che solo gli umani possano effettuare transazioni sui loro siti web, Sada ha sostenuto che questo approccio limiterà la capacità di quelle aziende di competere nel mondo in rapida crescita del commercio agentico, in cui gli agenti AI navigano, confrontano e transanno per conto dei loro proprietari.

A tal fine, World fornisce anche strumenti che consentono agli utenti di assegnare il proprio stato verificato a un agente secondo un accordo che Sada paragona a una procura. Ha sottolineato che gli utenti di World potranno assegnare le credenziali solo a un singolo agente attendibile che i commercianti possono trattare come loro alter ego.

World, precedentemente nota come WorldCoin, non è l'unica azienda che lavora su come fornire credenziali agli agenti attendibili. Ad agosto, la società di sicurezza online Cloudflare ha annunciato un proprio strumento di agent ID, insieme a un portafoglio progettato per l'uso da parte di tali agenti. Secondo la chief strategy officer di Cloudflare Stephanie Cohen, i nuovi prodotti coincidono con un'evoluzione del mondo digitale in cui i bot—storicamente considerati una minaccia—sono ormai trattati anche come una grande opportunità di business.

Resta da vedere quanto rapidamente strumenti come "Proof of Human" otterranno trazione nel mondo reale—e se altri produttori di software per il lavoro seguiranno l'esempio di Zoom. Ma con i bot che continu a proliferare a un ritmo sempre crescente, sembrano destinati a diventare nel tempo una parte permanente dell'infrastruttura digitale.

Questa storia è stata originariamente pubblicata su Fortune.