Distinguer une personne réelle d'un bot IA sophistiqué est devenu l'un des problèmes les plus urgents de l'ère de l'IA — et les enjeux ne cessent de croître. Ces dernières années, l'incapacité à différencier les humains des machines a alimenté des fraudes se chiffrant en milliards de dollars, des agents IA trompant les entreprises pour obtenir des biens et des services. Dans les cas les plus extrêmes, des criminels ont utilisé des deep fakes de dirigeants d'entreprise pour induire des employés en erreur et leur faire envoyer des virements frauduleux — une menace qui s'est intensifiée à mesure que les outils d'IA générative rendent la production de voix et de vidéos synthétiques convaincantes simple et peu coûteuse.

Une solution s'est rapprochée de l'adoption grand public dimanche, lorsque World — la société à l'origine d'un appareil sphérique utilisant le scan des iris pour établir une « preuve d'humanité » — a annoncé que le service de visioconférence Zoom et plusieurs grandes sociétés financières adoptent sa technologie pour bloquer les bots malveillants. Cet outil de vérification fait partie d'une suite de services plus large appelée World ID. Pour Zoom, un service devenu le lieu par défaut des réunions de direction, des présentations clients et des appels aux investisseurs lors du passage au télétravail pendant la pandémie, cette intégration marque une étape vers la considération de la vérification humaine comme une infrastructure professionnelle courante plutôt qu'une curiosité.

« World ID pour Zoom est conçu pour protéger les conversations sensibles et à enjeux élevés en prouvant qu'un humain réel et unique est présent. L'intégration utilise la cryptographie pour confirmer que la personne derrière l'écran est un humain vérifié », a déclaré World dans un communiqué. La société, cofondée par le PDG d'OpenAI Sam Altman, a publié les détails de l'intégration sur sa page officielle World ID pour Zoom.

Avec l'intégration Zoom, les participants ayant franchi les contrôles de sécurité de World ID apparaissent à l'écran avec un petit badge bleu indiquant qu'ils sont humains et qu'ils sont bien la personne qu'ils prétendent être. capture d'écran fournie par World montre comment le badge apparaît lors d'un appel. Les entreprises peuvent, quant à elles, décider quand cette preuve est requise et réserver ce niveau de contrôle aux conversations sensibles.

Une sphère, un iris et un enregistrement infalsifiable

La technologie sous-jacente à World ID est controversée, mais ses défenseurs affirment qu'elle est efficace tant du point de vue de la sécurité que de la confidentialité. La vérification est liée à un appareil sphérique qui capture une image des iris d'une personne — un identifiant biométrique unique à chaque individu — et crée un enregistrement permanent et infalsifiable de son identité.

Les sphères de World, grosses à peu près comme un ballon de football, peuvent évoquer pour certains une forme de dystopie de science-fiction. Cependant, ces appareils reposent sur un type de cryptographie avancée qui ne crée pas de base de données centrale des individus ; ils chiffrent plutôt l'identité des personnes scannées d'une manière que la société elle-même ne peut pas lire Lorsqu'un individu doit vérifier son identité sur Zoom ou une autre plateforme, il utilise la caméra de son téléphone et une application qui recoupe les données avec l'enregistrement chiffré de la sphère. Cette conception répond à une inquiétude essentielle liée à la biométrie : contrairement à un mot de passe, un iris ne peut pas être modifié en cas de compromission.

Selon Tiago Sada, directeur produit de World, la réaction du public face à la sphère est similaire à celle qu'ont suscitée les précédentes mesures de sécurité biométriques, qui ont mis du temps à gagner la confiance. Sada a comparé l'utilisation du scan des iris par la sphère à l'introduction par Apple de Touch ID, puis de la reconnaissance faciale sur l'iPhone — des fonctionnalités offrant une forme de sécurité pratique, mais que beaucoup ont accueillies avec méfiance lors de leur lancement.

Sada a également souligné que le protocole sous-jacent à World ID repose sur du code open source que n'importe qui, y compris des concurrents, peut utiliser. Cette ouverture peut apaiser les inquiétudes des défenseurs de la vie privée, mal à l'aise non seulement avec la technologie, mais aussi avec le fait qu'elle est associée à Altman.

« Les gens comprennent que vous n'avez pas à donner votre photo à Sam ni à l'un d'entre nous… Tout est open source et auditable », a déclaré Sada. Il a ajouté que World ID utilise la technologie blockchain pour faciliter la décentralisation et le chiffrement, observant : « Je pense que 90 % de l'univers crypto, c'est du n'importe quoi, mais 10 % est profond. »

Un point de bascule pour les agents IA

Zoom n'est pas la seule grande entreprise à se tourner vers l'outil de vérification de World pour contrer les deep fakes. Dimanche également, World a annoncé que plusieurs grandes sociétés financières — dont Bain Capital et VanEck Funds — intègrent cet outil dans leurs locaux. Un porte-parole de la société a expliqué que ces entreprises financières installeront des sphères dans leurs bureaux afin que les employés qui n'en ont pas encore utilisé puissent se faire scanner les iris. Pour les secteurs où l'usurpation d'identité d'un seul dirigeant peut déclencher un virement frauduleux, la vérification au niveau de l'entreprise offre une ligne de défense supplémentaire.

Le porte-parole a souligné que tous les processus de vérification ne nécessitent pas un scan des yeux. World ID propose trois niveaux de vérification via son application. Le plus bas, « Proof of Attributes », vérifie l'identité d'une personne à partir de documents officiels scannés. Le deuxième niveau, « Proof of Presence », exige un selfie. Le réglage de sécurité le plus élevé, « Proof of Human », exige qu'une personne prouve son identité à l'aide de l'application World et d'un selfie, qui est confronté à l'enregistrement biométrique enregistré avec la sphère.

Ces différents niveaux de sécurité reflètent une évolution plus large : dans un monde en ligne de plus en plus dominé par bots, il pourrait devenir nécessaire de prouver que l'on est humain avant de se livrer à un éventail croissant d'activités, des appels vidéo aux applications de rencontre en passant par le shopping.

Le shopping en ligne est un cas révélateur. Certaines grandes entreprises, notamment Amazon et JPMorgan, ont déjà commencé à bloquer totalement les bots. Bien que ces tactiques de « blocage de tous les bots » puissent s'avérer un moyen efficace de garantir que seuls les humains effectuent des transactions sur leurs sites, Sada a estimé que cette approche limitera la capacité de ces entreprises à rivaliser dans le monde en pleine expansion du commerce agentique, dans lequel des agents IA naviguent, comparent et effectuent des transactions au nom de leurs propriétaires.

À cette fin, World fournit également des outils permettant aux utilisateurs d'attribuer leur statut vérifié à un agent, selon un dispositif que Sada compare à une procuration. Il a insisté sur le fait que les utilisateurs de World ne pourront accorder leurs identifiants qu'à un seul agent de confiance, que les commerçants peuvent considérer comme leur double.

World, anciennement connu sous le nom de WorldCoin, n'est pas la seule entreprise à s'attaquer à la question de l'accréditation des agents de confiance. En août, la société de sécurité en ligne Cloudflare a annoncé son propre outil d'identifiant d'agent, ainsi qu'un portefeuille conçu pour ces agents. Selon Stephanie Cohen, directrice de la stratégie de Cloudflare, ces nouveaux produits accompagnent une évolution du monde numérique dans laquelle les bots — historiquement perçus comme une menace — sont désormais également considérés comme une opportunité commerciale majeure.

Reste à savoir à quelle vitesse des outils comme « Proof of Human » gagneront du terrain dans le monde réel — et si d'autres éditeurs de logiciels professionnels suivront l'exemple de Zoom. Mais à mesure que les bots continuent de se multiplier à un rythme croissant, ils semblent appelés à devenir, avec le temps, une composante permanente de l'infrastructure numérique.

Cette histoire a été initialement publiée sur Fortune.