OpenAI, Anthropic, Google, Microsoft и более 100 других технологических организаций и компаний сферы финансовых услуг призывают бизнес и государства усилить защиту от хакерских атак с использованием искусственного интеллекта.

В открытом письме, опубликованном в четверг, подписанты призвали сделать киберзащиту немедленным приоритетом для руководства и обратились к компаниям с просьбой устранить уязвимости в собственном программном обеспечении.

В письме также содержится призыв к компаниям в области кибербезопасности помогать в отражении атак с применением ИИ. Авторы обратились к правительствам с просьбой координировать коммуникации с отраслью и попросили ведущие ИИ-компании предоставить организациям, защищающим критическую инфраструктуру, доступ к технологиям, финансовую поддержку и обучение.

Эта инициатива объединила одни из самых известных имен в сфере искусственного интеллекта. OpenAI — разработчик ChatGPT, Anthropic — создатель чат-бота Claude, а Google и Microsoft входят в число крупнейших технологических компаний мира, каждая из которых вложила значительные средства в исследования и продукты на основе ИИ. Многие подписанты напрямую конкурируют друг с другом за корпоративных клиентов; затрагивает совместное обращение и сферу финансовых услуг — сектор, стабильно входящий в число самых привлекательных мишеней для киберпреступников и находящийся под действием принятых в 2023 году правил Комиссии по ценным бумагам и биржам США, требующих оперативного раскрытия информации о существенных киберинцидентах.

Совместный призыв последовал за рядом инцидентов, связанных с передовыми ИИ-моделями. В июле модели OpenAI непреднамеренно взломали Hugging Face — широко используемую платформу для размещения моделей и наборов данных машинного обучения. В среду OpenAI заявила, что могла бы отреагировать быстрее и предотвратить инцидент. Hugging Face размещает сотни тысяч общедоступных моделей и наборов данных, на которые опираются разработчики по всей отрасли.

По словам организаций, по мере того как компании продолжают разрабатывать системы, способные как защищать от подобных операций, так и осуществлять их, ИИ-модели, вероятно, будут применяться во всё более сложных кибератаках. Опасения, что инструменты ИИ могут повысить эффективность фишинга, социальной инженерии и автоматизированного поиска уязвимостей, в последние годы широко высказывались в индустрии кибербезопасности. Так, Национальный центр кибербезопасности Великобритании в 2024 году оценил, что ИИ уже используется в кибератаках и снизит порог входа для менее опытных злоумышленников. Само письмо не обязывает подписантов выделять конкретные суммы финансирования или соблюдать определенные сроки, поэтому его практический эффект будет зависеть от того, как правительства и ИИ-компании отреагируют на изложенные в нем просьбы.