НовостиМакроПочти 2 млн канареечных токенов выявили утечки промпт-данных по всей цепочке поставок ИИ

Почти 2 млн канареечных токенов выявили утечки промпт-данных по всей цепочке поставок ИИ

Автор: CryptoBriefing·

Ключевые выводы

  • •Исследование HD Moore с июля по ноябрь 2026 года внедрило почти два миллиона отслеживаемых канареечных токенов в ИИ-промпты, выявив масштабные утечки через ИИ-маршрутизаторы и сервисы инференса.
  • •Около 200 учётных данных AWS были похищены в целенаправленных атаках в конце октября 2026 года и использованы злоумышленниками в сервисах Amazon, включая S3 и IAM, хотя ключи вели лишь на контролируемую инфраструктуру.
  • •Как минимум три ИИ-хостинг-провайдера были скомпрометированы, причём подтверждённая активность по краже началась ещё в середине июля 2026 года, и ни один из них не обнаружил утечки до уведомления Moore в ноябре 2026 года.
  • •Некоторые ИИ-реселлеры и маркетплейсы захватывали промпты клиентов через встроенное логирование вопреки политикам нулевого хранения данных.
  • •Уникальный заложенный URL появился во внутреннем чате китайской компании через 24 дня после отправки, а промпты пользователей из США были отслежены до китайских ИИ-организаций.
Почти 2 млн канареечных токенов выявили утечки промпт-данных по всей цепочке поставок ИИ

Специалист по безопасности HD Moore поставил перед собой прямой вопрос: что происходит с секретом после того, как его вводят в ИИ-приложение? Чтобы выяснить это, он встроил около 2 млн отслеживаемых «канареечных» учётных данных и URL в промпты и пропустил их через сеть сервисов, на которой работают современные ИИ-инструменты.

Ответ оказался неутешительным. Экосистема активно утекала конфиденциальные данные, и некоторые из компаний, через которые происходили утечки, даже не подозревали об этом. Как минимум три ИИ-хостинг-провайдера оказались скомпрометированы, а злоумышленники вынесли промпт-данные клиентов.

Moore, опытный исследователь из Dragos, наиболее известный как создатель фреймворка Metasploit — широко используемого в отрасли безопасности инструментария для тестирования на проникновение — провёл исследование с июля по ноябрь 2026 года. Он встроил почти два миллиона уникальных, отслеживаемых канареечных токенов в запросы, отправленные ИИ-сервисам инференса и шлюзовым маршрутизаторам, а затем наблюдал, какие из них всплывут там, где им быть не следовало. Многие всплыли.

Как канарейка ловит вора

Канареечный токен работает как пакет с краской, спрятанный в банковской сумке. Он выглядит как настоящий — например, ключ доступа AWS или приватная ссылка — и «сообщает домой» в момент, когда кто-то пытается его использовать.

Канареечные токены давно являются инструментом оборонительной безопасности, и такая схема делает метод необычно чистым. Сработавшая канарейка означает, что данные утекли и кто-то их использовал, а не то, что это могло произойти лишь теоретически.

Тест был направлен на слой ИИ-стека, о котором большинство пользователей даже не задумывается. Многие ИИ-приложения не обращаются к модели напрямую. Вместо этого они передают промпты посредникам, таким как OpenRouter или Vercel, которых часто называют «ИИ-маршрутизаторами» или «ИИ-шлюзами». Эти посредники собирают огромные объёмы промптов от конечных пользователей, а затем пересылают каждый из них тому движку инференса, который соответствует их критериям, например, самой низкой цене.

Что нашли ловушки

Самый впечатляющий результат касался облачных учётных данных. Около 200 уникальных учётных данных AWS были похищены в ходе целенаправленных атак в конце октября 2026 года. Затем злоумышленники задействовали украденные ключи в нескольких сервисах Amazon, включая S3 — сервис хранения Amazon — и IAM, который управляет тем, кто и к чему имеет доступ.

К счастью, эти ключи никуда реальному не вели. Злоумышленники протестировали их в контролируемой инфраструктурной среде, что и позволило Moore наблюдать за их действиями.

Кражи не были разовой вспышкой. Самая ранняя подтверждённая активность по краже относится к середине июля 2026 года, то есть утечки шли почти с самого начала эксперимента.

Прямая компрометация была лишь частью картины. Moore также обнаружил evidence того, что ИИ-реселлеры и маркетплейсы захватывали промпты клиентов через встроенные функции логирования. Такая практика прямо противоречит политикам нулевого хранения данных — обещанию, что провайдер обрабатывает запрос, а затем забывает его. Ловушки показывают, что некоторые провайдеры всё же «помнили».

География рассказала свою историю. Уникальный URL, заложенный в ходе исследования, появился во внутреннем чате китайской компании через 24 дня после исходного запроса. Moore также проследил промпты пользователей из США до китайских ИИ-организаций. Пользователи, отправлявшие запрос через маршрутизатор, могли не иметь ни малейшего представления, куда он в итоге попал.

Пожалуй, самым неприятным выводом стал разрыв в осведомлённости. Затронутые провайдеры не знали, что всё это происходит; они узнали об утечках только тогда, когда Moore уведомил их в ноябре 2026 года. Его отчёт был публично представлен 19 ноября 2026 года.

Почему важна середина стека

ИИ-индустрия потратила немало усилий, чтобы заверить клиентов в том, что крупные разработчики моделей делают с их данными. Работа Moore указывает в другую сторону: на брокеров, реселлеров и хостинг-провайдеров, находящихся между пользователем и моделью.

Каждый дополнительный «прыжок» добавляет риск. Промпт, проходящий через маршрутизатор, реселлера и сторонний хостинг, имеет три шанса быть залогированным, перехваченным или украденным — а политика конфиденциальности на первом этапе ничего не говорит о третьем. Команды безопасности давно сосредоточены на сторонних программных зависимостях по схожим причинам, и результаты показывают, что промпты, проходящие через ИИ-посредников, теперь несут сопоставимый уровень риска.

Что это значит

Для компаний, строящих продукты на ИИ-сервисах, практический урок прост: всё, что помещается в промпт, следует считать потенциально раскрытым. Это касается API-ключей, облачных учётных данных, внутренних ссылок и записей о клиентах — материала, который разработчики регулярно вставляют в ИИ-инструменты при отладке или автоматизации работы. Канарейки показывают, что злоумышленники активно собирают именно такой материал и быстро его проверяют.

Результаты также подрывают самостоятельную ценность обещания нулевого хранения данных. Политика ровно настолько хороша, насколько хороши все стороны, соприкасающиеся с данными. Если логирование по умолчанию у реселлера всё равно фиксирует промпты, гарантия становится декоративной.

Разрыв в обнаружении, возможно, самая большая проблема. Злоумышленники крали данные как минимум у трёх хостинг-провайдеров на протяжении месяцев, и ни один из этих провайдеров не заметил этого, пока им не сообщил внешний исследователь. Оповестят ли эти провайдеры теперь о инцидентах или изменят принципы работы своего логирования, остаётся неизвестным.

Первоисточник: Crypto Briefing