Een echte persoon onderscheiden van een slimme AI-bot is een van de meest urgente problemen van het AI-tijdperk geworden—en de inzet blijft stijgen. De afgelopen jaren heeft het onvermogen om mensen en machines van elkaar te onderscheiden miljarden dollars aan fraude veroorzaakt, doordat AI-agenten bedrijven ertoe misleiden goederen en diensten te leveren. In de meest extreme gevallen hebben criminelen deep fakes van bedrijfsbestuurders ingezet om werknemers te misleiden frauduleuze bankoverboedingen te doen—een dreiging die is toegenaamd nu generatieve AI-tools overtuigende synthetische stemmen en video's eenvoudig en goedkoop maken.

Een remedie kwam dichter bij mainstream adoptie op zondag, toen World—het bedrijf achter een orb-apparaat dat irisscans gebruikt om een 'proof of humanity' vast te stellen—aankondigde dat videobeldienst Zoom en verschillende grote financiële bedrijven zijn technologie overnemen om kwaadwillende bots buitens te houden. De verificatietool maakt deel uit van een breder pakket diensten genaamd World ID. Voor Zoom, een dienst die tijdens de pandemie-verplaatsing naar thuiswerken hét podium werd voor bestuursvergaderingen, klantpresentaties en investeerdersgesprekken, markeert de integratie een stap richting het behandelen van mensverificatie als routine bedrijfsinfrastructuur in plaats van een nieuwigheid.

"World ID for Zoom isworpen om gevoelige, cruciale gesprekken te beschermen door te bewijzen dat er een echte en unieke mens aanwezig is. De integratie gebruikt cryptografie om te bevestigen dat de persoon achter het scherm een geverifieerde mens is", aldus World in een verklaring. Het bedrijf, medeopgericht door OpenAI-ceo Sam Altman, publiceerde details van de integratie op zijn officiële World ID for Zoom-pagina.

Onder de Zoom-integratie verschijnen deelnemers die de beveiligingsdrempels van World ID hebben doorstaan op het scherm met een klein blauw badge dat aangeeft dat ze mens zijn en dat ze zijn wie ze beweren te zijn. Een screenshot van World toont hoe de badge eruitziet tijdens een gesprek. Bedrijven kunnen zelf beslissen wanneer zulke verificatie vereist is en dit nauwkeurigheidsniveau reserveren voor gevoelige gesprekken.

Een orb, een iris en een fraudebestendig dossier

De technologie achter World ID is omstreden, maar voorstanders zeggen dat deze effectief is vanuit zowel een beveiligings- als een privacy perspectief. Verificatie is gekoppeld aan een orb-apparaat dat een beeld maakt van de iris van een persoon—een biometrische kenmerk dat uniek is voor elk individu—en een permanent, fraudebestendig dossier van hun identiteit creëert.

Worlds orbs, ongeveer zo groot als een voetbal, doen bij sommigen denken aan een sciencefiction-dystopie. De apparaten vertrouwen echter op een geavanceerde vorm van cryptografie die geen centrale database van individuen aanmaakt; in plaats daarvan versleutelen ze de identiteit van gescande personen op een manier die het bedrijf zelf niet kan lezen. Wanneer iemand zijn identiteit moet verifiëren op Zoom of een ander platform, gebruikt hij zijn telefooncamera en een app die kruischecks uitvoert tegen het versleutelde orb-dossier. Het ontwerp raakt aan een kernangst rond biometrie: anders dan een wachtwoord kan een iris niet worden veranderd als deze eenmaal is gecompromitteerd.

Volgens Tiago Sada, chief product officer van World, lijkt de consumentenreactie op de orb op de introductie van eerdere biometrische beveiligingsmaatregelen die tijd hadden om vertrouwen op te bouwen. Sada vergeleek het gebruik van irisscans door de orb met de introductie door Apple van Touch ID en later gezichtsherkenning voor de iPhone—functies die een handige vorm van beveiliging bieden maar bij de lancering door velen met argwaan werden ontvangen.

Sada wees er ook op dat het protocol achter World ID is gebouwd op openbare code die iedereen, inclusief concurrenten, kan gebruiken. Die openheid kan de zorgen wegnemen van privacy-voorvechters die niet alleen ongemakkelijk voelen over de technologie, maar ook over het feit dat deze aan Altman is gekoppeld.

"Mensen begrijpen dat je je foto niet aan Sam of een van ons hoeft te geven ... Alles is open source en auditabel", zei Sada. Hij voegde eraan toe dat World ID blockchaintechnologie gebruikt om decentralisatie en versleuteling mogelijk te maken, en merkte op: "Ik denk dat 90% van de crypto-ruimte onzin is, maar 10% is diepgaand."

Een kantelpunt voor AI-agenten

Zoom is niet het enige grote bedrijf dat Worlds verificatietool inzet om deep fakes tegen te gaan. Ook op zondag kondigde World aan dat een reeks grote financiële bedrijven—including Bain Capital en VanEck Funds—de tool aan hun werkplekken toevoegen. Een woordvoerder van het bedrijf legde uit dat de financiële bedrijven orb-apparaten in hun kantoren houden zodat werknemers die er nog geen hebben gebruikt hun irissen kunnen laten scannen. Voor sectoren waar één nagebootste bestuurder een frauduleuze bankoverschrijving in gang kan zetten, biedt verificatie op werkplekniveau een extra verdedigingslinie.

De woordvoerder benadrukte dat niet elk verificatieproces een oogscan vereist. World ID biedt drie verificatieniveaus via de app. Het laagste, "Proof of Attributes", verifieert iemands identiteit op basis van gescande overheidsdocumenten. Het tweede niveau, "Proof of Presence", vereist een selfie. De hoogste beveiligingsinstelling, "Proof of Human", vereist dat een persoon zijn identiteit bewijst met de World-app en een selfie, die wordt gecontroleerd tegen het biometrische dossier dat bij het orb-apparaat is geregistreerd.

De niveaus weerspiegelen een bredere verschuiving: in een online wereld die steeds meer door bots wordt gedomineerd, moeten mensen mogelijk bewijzen dat ze mens zijn voordat ze deelnemen aan een steeds breder scala aan activiteiten, van videogesprekken tot datingapps tot winkelen.

Online winkelen is een voorbeeld. Sommige grote bedrijven, met name en JPMorgan, zijn al begonnen bots volledig te blokkeren. Hoewel zulke "blokkeer alle bots"-tactieken effectief kunnen zijn om ervoor te zorgen dat alleen mensen transacties op hun websites kunnen uitvoeren, betoogde Sada dat de aanpak het vermogen van die bedrijven om te concurreren in de snelgroeiende wereld van agentische handel zal beperken, waarin AI-agenten namens hun eigenaren bladeren, vergelijken en transacties uitvoeren.

Daarom levert World ook tools waarmee gebruikers hun geverifieerde status kunnen toewijzen aan een agent, onder een regeling die Sada vergelijkt met een volmacht. Hij benadrukte dat World-gebruikers hun referenties slechts aan één enkele, vertrouwde agent kunnen toewijzen die handelaren kunnen beschouwen als hun alter ego.

World, voorheen bekend als WorldCoin, is niet het enige bedrijf dat werkt aan het verstrekken van referenties aan vertrouwde agenten. In augustus kondigde het online beveiligingsbedrijf Cloudflare aan een eigen agent-ID-tool, plus een wallet ontworpen voor die agenten. Volgens Cloudflare Chief Strategy Officer Stephanie Cohen vallen de nieuwe producten samen met een evolutie in de digitale wereld waarin bots—historisch gezien als plaag beschouwd—nu ook worden gezien als een grote zakelijke kans.

Het blijft afwachten hoe snel tools zoals "Proof of Human" voet aan de grond krijgen in de praktijk—en of andere makers van werkpleksoftware Zoom's voorbeeld volgen. Maar nu bots zich in steeds sneller tempo blijven verspreiden, lijken ze op den duur een permanent onderdeel van de digitale infrastructuur te worden.

Dit verhaal verscheen oorspronkelijk op Fortune.