Исследовательская компания в области ИИ Anthropic опубликовала свой последний отчёт об угрозах — «Выявление и противодействие неправомерному использованию ИИ: сентябрь 2026 года», в котором описываются попытки злоумышленников использовать модели Claude в кибероперациях, кампаниях влияния, наблюдении, биологических исследованиях, разработке оружия, мошенничестве и дистилляции моделей.

Отчёт охватывает активность, выявленную и пресечённую в период с декабря 2025 года по август 2026 года. В описанных случаях фигурировали предположительно поддерживаемые государствами группы, преступники, руководствующиеся финансовыми мотивами, поставщики коммерческого шпионского ПО и пропагандистские организации, действующие в России, Китае, Иране и других регионах.

Anthropic заявила, что ни один из задокументированных случаев неправомерного использования не был связан с её наиболее мощными моделями классов Fable или Mythos, за исключением одного случая, описанного в разделе о дистилляции. Компания также подчеркнула, что раскрытые инциденты не отражают типичное неправомерное использование. Вместо этого они были отобраны как наиболее сложные и новые угрозы, выявленные на сегодняшний день. Таким образом, отчёт представляет собой记录 задокументированного неправомерного использования высокого уровня, а не показатель частоты подобных действий. Anthropic сообщила, что во всех случаях заблокировала связанные аккаунты, усилила защитные механизмы на основе результатов расследований и поделилась разведданными с властями и отраслевыми партнёрами.

We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them. We disrupted every operation in the report,… — Anthropic (@AnthropicAI) September 10, 2026

https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

От помощника к координатору: основные выводы

Главный вывод отчёта заключается в том, что ИИ превратился из консультативного инструмента в операционного координатора в сфере киберпреступности. В большинстве рассмотренных операций злоумышленники использовали мультиагентные системы, которые автономно выполняли разведку, эксплуатацию уязвимостей, сбор учётных данных и извлечение данных. Люди в основном выбирали цели и проверяли результаты.

Один из примечательных случаев, обозначенный как GTG-20006, был связан с российской группой Midnight Blizzard, имеющей связи с государственными структурами. Группа использовала рабочие процессы на базе ИИ для фишинга, разработки вредоносного ПО и уклонения от обнаружения, автоматически перестраивая свой инструментарий каждый раз, когда его выявляли продукты безопасности. Отдельно предполагаемые аффилированные лица ShinyHunters применяли ИИ для промышленного масштабирования сбора учётных данных: они декомпилировали 1.8 million приложений Android в поисках секретов и завершали взломы всего за два-три часа.

Помимо киберопераций, Anthropic задокументировала кампании влияния, направленные на выборы и общественное мнение в Молдове, Кении, Малайзии и Бангладеш. Компания также описала операции наблюдения, согласованные с государственными структурами Китая, Ирана и Мали, включая платформу, предназначенную для мониторинга примерно 25 миллионов абонентов мобильной связи.

В отчёте также выявлены усилия по разработке оружия, включая программу создания управляемой ракеты в Йемене и проект автономного роя дронов в России. В разделе о неправомерном использовании в биологии описаны пять случаев исследований двойного назначения, включая работы по усилению функций вируса чикунгунья и исследования адаптации птичьего гриппа. Anthropic заявила, что её классификаторы в значительной степени пресекли эту активность.

В отчёте также подробно описываются незаконные кампании по дистилляции, приписываемые китайским лабораториям, включая Alibaba, DeepSeek, Moonshot AI, Xiaomi и Zhipu. Anthropic обвиняет эти лаборатории в тайной маршрутизации пользовательских запросов к Claude, сборе следов рассуждений и использовании полученных результатов для обучения конкурирующих моделей. В нескольких случаях такая передача, как утверждается, раскрыла конфиденциальные корпоративные и государственные данные третьим сторонам без ведома пользователей.

Anthropic представила это раскрытие одновременно как предупреждение и дорожную карту. Компания заявила, что по мере роста возможностей моделей ИИ скоординированные усилия отрасли ИИ и правительств по выявлению угроз и защите будут необходимы для опережения постоянных противников.

Источник: Metaverse Post