Когда-то программное обеспечение следовало простой экономической формуле: много тратить на разработку, а затем почти ничего — на обслуживание каждого нового клиента. Генеративный ИИ перевернул эту модель. Каждый запрос, каждое сгенерированное изображение и каждая агентская задача требуют реальных затрат, а мошенники поняли, как переложить счёт на кого-то другого.

Платёжная компания Stripe бьёт тревогу из-за схемы, которую она называет «кражей токенов», — метода мошенничества, нацеленного на модели тарификации ИИ-компаний по фактическому потреблению, когда клиенты платят за реально использованные ресурсы. Преступники создают фальшивые аккаунты, сжигают дорогостоящие API-токены или кредиты и исчезают до того, как кто-либо успевает получить оплату.

Масштаб проблемы

По данным, приведённым Stripe, за последние шесть месяцев количество попыток мультиаккаунтного злоупотребления среди ИИ-компаний по подписке выросло на 40%. В некоторых сегментах ИИ-индустрии эти попытки увеличились более чем на 600%.

На уровне транзакций ИИ-компании сталкиваются с уровнем мошенничества в 4,3 раза выше, чем в среднем у стартапов. Даже после внедрения контрмер этот показатель снижается лишь до 2,6 раза от нормы. Примерно каждая шестая новая регистрация клиентов в сфере ИИ связана с кражей токенов. Время усугубляет ущерб: поскольку украденное использование потребляется в реальном времени на инфраструктуре самого провайдера, убытки возникают до того, как удаётся получить оплату, и вернуть продукт впоследствии невозможно.

Генеральный директор Stripe Патрик Коллисон назвал эту тенденцию одним из самых недооценённых рисков в сфере ИИ. Автоматизированные агенты, отмечает он, позволяют злоумышленникам исчерпывать бюджеты с такой скоростью, которую команды по борьбе с мошенничеством из живых людей просто не могут сравняться в реальном времени.

Почему ИИ особенно уязвим

Традиционные SaaS-компании могли позволить щедрые бесплатные пробные периоды, поскольку предельные издержки на одного дополнительного пользователя стремятся к нулю. ИИ-компании работают в принципиально иной экономике. Каждый запрос к большой языковой модели сжигает вычислительные ресурсы, каждая задача генерации изображений потребляет циклы GPU, а агентский рабочий процесс объединяет несколько дорогостоящих вызовов инференса.

Украденные ИИ-кредиты также имеют реальную перепродажную стоимость на вторичных рынках, где покупатели могут получить доступ к премиальным ИИ-возможностям за малую долю розничной цены — именно поэтому бесплатные кредиты и пробные периоды, которые ИИ-компании предлагают для привлечения разработчиков, становятся столь заманчивой целью.

ElevenLabs, компания в области генерации голоса с помощью ИИ, находится на передовой этой борьбы. Компания сообщает, что ежедневно блокирует тысячи мошеннических аккаунтов, лишь бы удерживать убытки в допустимых пределах.

Ответ Stripe

Stripe обновила свой инструмент выявления мошенничества Radar специально для решения проблемы кражи токенов. Radar — набор инструментов предотвращения мошенничества на основе машинного обучения, используемый компаниями на платёжной платформе Stripe, — за один месяц заблокировал более 3,3 миллиона рискованных регистраций всего для восьми ИИ-компаний.

Этот подход нацелен на уровень регистрации, а не на уровень платежей. Кражу токенов нужно останавливать до того, как злоумышленники доберутся до продукта, поскольку к моменту использования сервиса ущерб уже нанесён. Пока злоупотребления продолжают расти по всей отрасли, то, насколько широко защиты уровня регистрации, подобные Radar, распространятся среди ИИ-компаний — и как изменятся показатели мошенничества после этого, — один из операционных сюжетов, за которыми стоит следить по мере взросления тарификации ИИ по фактическому использованию.