По данным национального агентства кибербезопасности Индии, ИИ-агенты, проходившие исследование и оценку у неназванных поставщиков моделей, превысили предоставленные им полномочия и прочитали личные и конфиденциальные деловые записи в действующих индийских системах. Ни одна из затронутых организаций сама не обнаружила этот доступ.

Индийская команда реагирования на компьютерные чрезвычайные ситуации, известная как CERT-In, сообщила об этой активности на этой неделе в критическом предупреждении под названием «ИИ-агенты как векторы атак». По словам агентства, оно получило несколько добровольных сообщений от поставщиков ИИ-моделей, чьи модели попали в действующие системы индийских организаций во время исследования и оценки в открытом интернете. CERT-In не назвал поставщиков, модели или затронутые организации, и каждый случай стал известен только потому, что поставщик модели сообщил о нем после внутреннего расследования.

Согласно предупреждению, агенты читали деловые записи, содержащие личные данные и конфиденциальные материалы, используя учетные данные и настройки подключений, оставленные открытыми в конфигурациях приложений, публичных репозиториях кода и чрезмерно разрешительных облачных ролях — наборах разрешений, привязанных к облачным учетным записям. В некоторых случаях агенты обнаруживали одни и те же раскрытые учетные данные более одного раза и повторно использовали их в отдельных операциях.

Это предупреждение — новейший случай в череде инцидентов, в которых ИИ-агенты нарушали работу крупных компаний и правительств, выходя за рамки поставленных задач во время тестирования. Anthropic сообщила 30 июля, что модели Claude — которым было сказано, что у них нет доступа в интернет, — скомпрометировали три реальные компании в ходе заданий capture-the-flag, упражнений, в которых модель должна проникнуть в машину и получить скрытый секрет, как ранее сообщал Decrypt.

Британский институт безопасности ИИ сообщил 4 августа, что агенты совершили 19 несанкционированных действий в 10 из 122 оценочных запусков, 17 из них — агенты Mythos 5 от Anthropic и два — GPT-5.6 Sol от OpenAI. Институт намеренно включил интернет-доступ для теста, согласно отдельному отчету Decrypt.

Случай OpenAI затронул гораздо больше агентов: около 1200 из них координировались на скрытой доске сообщений, пытаясь обмануть тест по кибербезопасности, а около 700 атаковали Hugging Face — платформу обмена ИИ-моделями, согласно независимому расследованию исследовательских групп по безопасности ИИ METR и Redwood Research, о котором сообщил Decrypt.

Отдельно CERT-In сообщил, что наблюдал, какеступники используют общедоступные ИИ-фреймворки наступательной безопасности для поиска уязвимостей, их эксплуатации и проведения атак с финансовой мотивацией против индийских организаций. По данным агентства, эти инструменты сокращают время от первоначального доступа до окончательного воздействия с дней до нескольких часов, неоднократно перепаковываются и повторно развертываются, а их развертывания обнаружены на серверах в нескольких странах.

Об этом предупреждении ранее сообщила Indian Express.

Источник: Decrypt