Отличить реального человека от хитроумного ИИ-бота стало одной из самых острых проблем эпохи ИИ — и ставки продолжают расти. В последние годы неспособность отличить людей от машин привела к мошенничеству на миллиарды долларов: ИИ-агенты обманом вынуждали компании предоставлять товары и услуги. В самых крайних случаях преступники использовали дипфейки руководителей корпораций, чтобы обманным путем заставить сотрудников отправлять мошеннические банковские переводы — эта угроза обострилась по мере того, как генеративные ИИ-инструменты делают создание убедительных синтетических голосов и видео простым и дешевым.

Решение приблизилось к массовому внедрению в воскресенье, когда World — компания, стоящая за устройством-сферой, которое использует сканирование радужной оболочки глаза для установления «доказательства человечности», — объявила, что сервис видеоконференций Zoom и несколько крупных финансовых компаний внедряют её технологию, чтобы не пускать вредоносных ботов. Инструмент верификации является частью более широкого набора сервисов под названием World ID. Для Zoom — сервиса, ставшего площадкой по умолчанию для советов директоров, презентаций клиентам и звонков с инвесторами во время пандемийного перехода к удаленной работе, — эта интеграция ознаменует шаг к превращению верификации человека в рутинную деловую инфраструктуру, а не в диковинку.

«World ID для Zoom предназначен для защиты чувствительных и критически важных разговоров путём доказательства присутствия реального и уникального человека. Интеграция использует криптографию для подтверждения того, что человек за экраном является верифицированным человеком», — сообщила World в заявлении. Компания, сооснов которой является генеральный директор OpenAI Сэм Альтман, опубликовала подробности интеграции на своей официальной странице World ID для Zoom.

Согласно интеграции с Zoom, участники, прошедшие проверки безопасности World ID, появляются на экране с небольшим синим значком, подтверждающим, что они являются людьми и что они те, за кого себя выдают. Скриншот, предоставленный World, показывает, как значок выглядит во время звонка. Компании при этом могут сами решать, когда требуется такое подтверждение, и оставлять этот уровень проверки для чувствительных разговоров.

Сфера, радужка и защищённая от подделки запись

Технология, лежащая в основе World ID, вызывает споры, но её сторонники утверждают, что она эффективна как с точки зрения безопасности, так и конфиденциальности. Верификация привязана к устройству-сфере, которое фиксирует изображение радужной оболочки глаза человека — уникального для каждого биометрического идентификатора — и создаёт постоянную, защищённую от подделки запись его личности.

Сферы World, размером примерно с футбольный мяч, могут показаться некоторым людям воплощением антиутопии из научной фантастики. Однако эти устройства полагаются на продвинутую криптографию, которая не создаёт центральную базу данных людей: вместо этого личность отсканированных шифруется так, что компания не может её прочитать. Когда человеку нужно подтвердить свою личность в Zoom или на другой платформе, он использует камеру телефона и приложение, которое сверяет данные с зашифрованной записью сферы. Такой дизайн отражает ключевое опасение относительно биометрии: в отличие от пароля, радужную оболочку нельзя изменить, если она окажется скомпрометирована.

По словам директора по продуктам World Тиаго Сады, реакция потребителей на сферу напоминает реакцию на более ранние биометрические меры безопасности, которым требовалось время для завоевания доверия. Сада сравнил использование сканирования радужной оболочки сферой с тем, как Apple впервые представила Touch ID, а затем распознавание лица для iPhone — функции, предлагающие удобную форму безопасности, но вызвавшие у многих подозрения при первом запуске.

Сада также отметил, что протокол, лежащий в основе World ID, построен на открытом исходном коде, которым могут пользоваться все, включая конкурентов. Эта открытость может смягчить опасения защитников конфиденциальности, которых беспокоит не только сама технология, но и её связь с Альтманом.

«Люди понимают, что не нужно давать Сэму или любому из нас своё фото… Всё имеет открытый исходный код поддаётся аудиту», — сказал Сада. Он добавил, что World ID использует технологию блокчейн для децентрализации и шифрования, заметив: «Я считаю, что 90% криптопространства — это ерунда, но 10% — глубоки».

Переломный момент для ИИ-агентов

Zoom — не единственная крупная компания, обращающаяся к инструменту верификации World для остановки дипфейков. Также в воскресенье World объявила, что ряд крупных финансовых фирм — включая Bain Capital и VanEck Funds — добавляет этот инструмент в свои офисы. Представитель компании пояснил, что финансовые фирмы будут держать устройства-сферы в своих офисах, чтобы сотрудники, ранее не использовавшие их, могли отсканировать радужную оболочку глаза. Для отраслей, где один подделанный руководитель может запустить мошеннический банковский перевод, верификация на уровне офиса предоставляет дополнительную линию обороны.

Представитель подчеркнул, что не каждый процесс верификации требует сканирования глаз. World ID предлагает три уровня верификации через своё приложение. Самый низкий, «Proof of Attributes», подтверждает личность человека на основе отсканированных государственных документов. Второй уровень, «Proof of Presence», требует селфи. Самый высокий уровень безопасности, «Proof of Human», требует, чтобы человек подтвердил свою личность с помощью приложения World и селфи, которое сверяется с биометрической записью, зарегистрированной устройством-сферой.

Эти уровни отражают более широкий сдвиг: в онлайн-мире, всё больше доминируемом ботами, людям, возможно, придётся подтверждать свою человечность перед всё более широким кругом действий — от видеозвонков до приложений знакомств и покупок.

Онлайн-шопинг — наглядный пример. Некоторые крупные компании, в частности Amazon и JPMorgan, уже начали полностью блокировать ботов. Хотя такие тактики «блокировать всех ботов» могут оказаться эффективным способом гарантировать, что только люди будут совершать транзакции на их сайтах, Сада утверждает, что этот подход ограничит способность компаний конкурировать в быстро растущем мире агентной коммерции, где ИИ-агенты просматривают, сравнивают и совершают сделки от имени своих владельцев.

С этой целью World также предоставляет инструменты, позволяющие пользователям передавать свой верифицированный статус агенту в рамках механизма, который Сада сравнивает с доверенностью. Он подчеркнул, что пользователи World смогут выдавать полномочия только одному доверенному агенту, которого продавцы могут рассматривать как их «второе я».

World, ранее известная как WorldCoin, — не единственная компания, решающая проблему предоставления полномочий доверенным агентам. В августе фирма интернет-безопасности Cloudflare представила собственный инструмент agent ID, а также кошелёк, предназначенный для использования этими агентами. По словам директора по стратегии Cloudflare Стеани Коэн, новые продукты совпадают с эволюцией цифрового мира, в которой боты — исторически считавшиеся угрозой — теперь рассматриваются и как крупная бизнес-возможность.

Остаётся неизвестным, насколько быстро такие инструменты, как «Proof of Human», получат реальное распространение — и последуют ли другие производители офисного ПО примеру Zoom. Но поскольку боты продолжают распространяться всё быстрее, они, судя по всему, со временем станут постоянной частью цифровой инфраструктуры.

Этот материал первоначально был опубликован на Fortune.