OpenAI в четверг опубликовало письмо с предупреждением, что уже через несколько месяцев модели искусственного интеллекта (ИИ) могут стать достаточно мощными, чтобы позволить злоумышленникам проводить всё более изощренные кибератаки на больницы, водоочистные сооружения и другую критическую инфраструктуру. Такие отрасли, как здравоохранение и водоснабжение, давно считаются привлекательными целями для атак, поскольку устаревшие системы и угроза жизни людей оставляют им мало терпимости к простоям — эта проблема стала причиной повторных предупреждений правительства США о необходимости защиты операционных технологий в последние годы.

Письмо подписали более 100 компаний из банковского сектора, технологий и кибербезопасности, включая Accenture, Anthropic, Capital One, Google, Microsoft и Visa. Широта списка подписантов примечательна: банки и платежные сети — отрасли, уже работающие в рамках формальных государственно-частных механизмов обмена информацией об угрозах, таких как орган обмена разведданными финансового сектора США, — редко выпускают совместные заявления по безопасности вместе с конкурирующими ИИ-лабораториями. Hugging Face, репозиторий моделей ИИ с открытым исходным кодом, чьи системы были взломаны агентом OpenAI в июле, также присоединился к письму.

«Современные достижения ИИ уже дают защитникам новые способы устранять уязвимости, накопившиеся за годы. Если мы будем действовать решительно, мы сможем использовать окно возможностей защитников, чтобы сделать наш цифровой мир значительно безопаснее», — говорится в отрывке письма.

Призывы к организациям и правительствам

Для решения проблемы OpenAI призвало все организации сделать защиту от киберпреступности «немедленным приоритетом руководства». По словамам письма, организации по кибербезопасности должны «возглавить ответ на постоянные атаки с применением ИИ, включая непрерывное тестирование защиты против передовых кибервозможностей, укрепление существующих инструментов с помощью ИИ и работу с технологическими партнерами для немедленного закрытия пробелов».

Правительства всего мира также получили призыв к действию: OpenAI заявило, что они должны укрепить киберзащиту на местном, национальном и международном уровнях.

«Предоставьте больницам, водоканалам и местным властям доступ к эффективному оборонительному ИИ, авторизованному тестированию и практической поддержке через доверенных поставщиков услуг безопасности и партнеров. Накладывайте издержки на атакующих», — говорится в обращении OpenAI к государственным органам.

В части письма, адресованной «ведущим ИИ-компаниям», OpenAI заявило, что такие фирмы должны предоставить операторам критической инфраструктуры доступ к мощным моделям, финансированию, обучению и технической помощи. Операторы, в свою очередь, должны создавать инструменты для отслеживания использования ИИ-агентов, тестировать системы на уязвимости, ответственно устранять проблемы и делиться полезной информацией о безопасности с правительствами и другими защитниками, говорится в письме. Акцент на обмене информацией перекликается с давно существующими структурами, такими как координирующая роль CISA в безопасности критической инфраструктуры, что позволяет предположить: письмо направлено на расширение существующих каналов защиты, а не на их замену.

Предыдущие кибератаки с применением ИИ

Ряд кибератак с использованием ИИ уже произошел. Наиболее примечательно, что в сентябре прошлого года Anthropic обвинила спонсируемую государством китайскую группу в манипуляции своим инструментом Claude Code с целью взлома 30 глобальных целей, предположительно успешно преодолев защиту нескольких из них.

«Это первый задокументированный случай, когда автономный ИИ успешно получил доступ к подтвержденным высокоценным целям для сбора разведданных», — говорится в отчете об инциденте Anthropic.

Anthropic не назвала жертв, но сообщила, что среди целей были крупные технологические компании, финансовые институты, химические производственные компании и правительства.

Anthropic также является лидером отрасли в предупреждениях о том, что стремительно развивающийся ИИ необходимо сдерживать, чтобы избежать катастрофических атак на гражданскую инфраструктуру. В апреле компания объявила о Project Glasswing — инициативе по защите наиболее критического программного обеспечения в мире. В этом объявлении Anthropic заявила, что одна из ее передовых моделей, Claude Mythos, достигла «уровня навыков программирования, при котором они могут превзойти всех, кроме самых квалифицированных специалистов, в поиске и использовании уязвимостей программного обеспечения».

Указанные в письме сроки — предупреждение об угрозах «в течение нескольких месяцев» — сигнализируют, что следующим важным моментом будет то, переведут ли правительства и операторы инфраструктуры эти рекомендации в конкретные оборонительные меры и продолжат ли расти задокументированные вторжения с применением ИИ.

OpenAI и Anthropic не сразу ответили на запрос FOX Business о комментариях.