Odróżnienie prawdziwej osoby od sprytnego bota AI stało się jednym z najpilniejszych problemów ery sztucznej inteligencji — a stawki wciąż rosną. W ostatnich latach niemożność odróżnienia ludzi od maszyn napędziła oszustwa o wartości miliardów dolarów, gdy agenci AI nakłaniają firmy do dostarczania towarów i usług. W skrajnych przypadkach przestępcy wykorzystywali deep fake'i dyrektorów firm, aby wyłudzić od pracowników oszukańcze przelewy — zagrożenie, które narasta wraz z tym, jak generatywne narzędzia AI czynią przekonujące syntetyczne głosy i wideo prostymi i tanimi w produkcji.

W kierunku głównego nurtu zbliżyło się rozwiązanie w niedzielę, gdy World — firma stojąca za urządzeniem orb, które wykorzystuje skan tęczówek do potwierdzania „człowieczeństwa” — ogłosił, że serwis wideokonferencji Zoom oraz kilka dużych firm finansowych wdraża jego technologię, aby blokować złośliwe boty. Narzędzie weryfikacyjne jest częścią szerszego pakietu usług o nazwie World ID. Dla Zoomu — serwisu, który w czasach pandemii i pracy zdalnej stał się domyślnym miejscem spotkań zarządów, prezentacji dla klientów i rozmów z inwestorami — ta integracja oznacza krok w stronę traktowania weryfikacji człowieczeństwa jako rutynowej infrastruktury biznesowej, a nie ciekawostki.

„World ID dla Zoomu zostałrojektowany, aby chronić wrażliwe, kluczowe rozmowy poprzez udowodnienie, że uczestniczy w nich prawdziwa, unikalna osoba. Integracja wykorzystuje kryptografię, aby potwierdzić, że osoba po drugiej stronie ekranu to zweryfikowany człowiek” — oświadczył World. Firma, której współzałożycielem jest CEO OpenAI Sam Altman, opublikowała szczegóły integracji na oficjalnej stronie World ID for Zoom.

W ramach integracji z Zoomem uczestnicy, którzy przeszli zabezpieczenia World ID, pojawiają się na ekranie z małą niebieską odznaką sygnalizującą, że są ludźmi i że są tym, za kogo się podają. Zrzut ekranu udostępniony przez World pokazuje, jak odznaka wygląda podczas rozmowy. Firmy mogą natomiast decydować, kiedy taki dowód jest wymagany, i rezerwować ten poziom weryfikacji dla wrażliwych rozmów.

Orb, tęczówka i odporny na manipulacje zapis

Technologia stojąca za World ID budzi kontrowersje, ale jej zwolennicy twierdzą, że jest skuteczna zarówno pod względem bezpieczeństwa, jak i prywatności. Weryfikacja jest powiązana z urządzeniem orb, które wykonuje obraz tęczówek oka — biometrycznego identyfikatora unikalnego dla każdej osoby — i tworzy trwały, odporny na manipulacje zapis tożsamości.

Orby World, mające mniej więcej rozmiar piłki, mogą niektórym osobom kojarzyć się z science-fiction dystopią. Urządzenia te opierają się jednak na zaawansowanej kryptografii, która nie tworzy centralnej bazy danych osób; zamiast tego szyfrują tożsamość skanowanych osób w sposób nieodczytywalny dla firmy. Gdy osoba musi zweryfikować swoją tożsamość na Zoomie lub innej platformie, używa kamery telefonu i aplikacji, która porównuje dane z zaszyfrowanym zapisem orb. Taka konstrukcja odpowiada na kluczowy lęk związany z biometrią: w przeciwieństwie do hasła, tęczówki nie można zmienić, jeśli zostanie naruszona.

Według Tiago Sady, dyrektora produktu World, reakcje konsumentów na orb są podobne do reakcji na wcześniejsze biometryczne zabezpieczenia, którym zajęło trochę czasu, aby zyskać zaufanie. Sada porównał skanowanie tęczówek przez orb do momentu, gdy Apple po raz pierwszy wprowadziło Touch ID, a następnie weryfikację twarzą w iPhone'ach — funkcje oferujące wygodną formę zabezpieczenia, lecz przyjęte z nieufnością przez wiele osób w chwili premiery.

Sada zauważył również, że protokół leżący u podstaw World ID zbudowany na kodzie open source, z którego może korzystać każdy, w tym konkurenci. Ta otwartość może złagodzić obrońców prywatności, którzy czują niepokój nie tylko wobec technologii, ale także wobec faktu, że jest ona powiązana z Altmanem.

„Ludzie rozumieją, że nie muszą dawać Samowi ani żadnemu z nas swojego zdjęcia… Wszystko jest open source i podlega audytowi” — powiedział Sada. Dodał, że World ID wykorzystuje technologię blockchain do zapewnienia decentralizacji i szyfrowania, zauważając: „Myślę, że 90% przestrzeni krypto to bzdury, ale 10% jest głębokie”.

Punkt zwrotny dla agentów AI

Zoom nie jest jedyną dużą firmą, która sięga po narzędzie weryfikacyjne World, aby powstrzymać deep fake'i. Również w niedzielę World ogłosił, że wiele dużych firm finansowych — w tym Bain Capital i VanEck Funds — dodaje to narzędzie w swoich miejscach pracy. Rzecznik firmy wyjaśnił, że firmy finansowe będą przechowywać urządzenia orb w biurach, aby pracownicy, którzy wcześniej z nich nie korzystali, mogli zeskanować swoje tęczówki. W branżach, gdzie pojedynczy podszyty dyrektor może uruchomić oszukańczy przelew, weryfikacja na poziomie miejsca pracy stanowi dodatkową linię obrony.

Rzecznik podkreślił, że nie każdy proces weryfikacji wymaga skanu oka. World ID oferuje trzy poziomy weryfikacji poprzez swoją aplikację. Najniższy, „Proof of Attributes”, weryfikuje tożsamość osoby na podstawie zeskanowanych dokumentów rządowych. Drugi poziom, „Proof of Presence”, wymaga selfie. Najwyższe ustawienie zabezpieczeń, „Proof of Human”, wymaga potwierdzenia tożsamości za pomocą aplikacji World i selfie, które jest porównywane z zapisem biometrycznym zarejestrowanym przez urządzenie orb.

Te poziomy odzwierciedlają szerszą zmianę: w świecie online coraz bardziej zdominowanym przez boty może być konieczna weryfikacja, że jesteśmy ludźmi, przed podjęciem coraz szerszego zakresu aktywności — od rozmów wideo, przez aplikacje randkowe, po zakupy.

Zakupy online są tego dobrym przykładem. Niektóre duże firmy, w szczególności Amazon i JPMorgan, już rozpoczęły całkowite blokowanie botów. Choć taktyka „blokuj wszystkie boty” może okazać się skutecznym sposobem zapewnienia, że tylko ludzie mogą dokonywać transakcji na ich stronach, Sada argumentował, że takie podejście ograniczy zdolność tych firm do konkurowania w szybko rosnącym świecie handlu agentowego, w którym agenci AI przeglają, porównują i transakcyjnie działają w imieniu swoich właścicieli.

W tym celu World dostarcza również narzędzia pozwalające użytkownikom przypisać swój zweryfikowany status agentowi w ramach rozwiązania, które Sada porównuje do pełnomocnictwa. Podkreślił, że użytkownicy World będą mogli przypisać poświadczenia tylko jednemu, zaufanemu agentowi, którego sprzedawcy mogą traktować jako ich alter ego.

World, dawniej znany jako WorldCoin, nie jest jedyną firmą pracującą nad tym, jak przyznawać poświadczenia zaufanym agentom. W sierpniu firma zajmująca się bezpieczeństwem online Cloudflare ogłosiła własne narzędzie agent ID oraz portfel zaprojektowany dla tych agentów. Według dyrektor strategii Cloudflare Stephanie Cohen nowe produkty zbiegają się z ewolucją świata cyfrowego, w której boty — historycznie postrzegane jako zagrożenie — są teraz także traktowane jako poważna okazja biznesowa.

Pozostaje do zobaczenia, jak szybko narzędzia takie jak „Proof of Human” zdobędą realną popularność — i czy inni producenci oprogramowania biurowego pójdą w ślady Zoomu. Ale ponieważ boty nadal mnożą się w coraz szybszym tempie, z czasem najwyraźniej staną się trwałą częścią infrastruktury cyfrowej.

Ta historia po raz pierwszy pojawiła się w Fortune.