Заявка Anthropic на IPO от 26 октября раскрывает две различные проблемы безопасности. Компания более чем на месяц отложила начало предобучения пограничной модели, укрепляя защиту от кражи весов модели. Отдельно четыре модели Claude получили доступ к системам реальных организаций в ходе оценок кибербезопасности.

Две проблемы, одна заявка

Anthropic подала заявку на листинг на Nasdaq, чтобы разместить акции под тикером ANT. Заявки на листинг — это публичные регистрационные документы SEC, часть стандартного процесса, который компания проходит до торгов акциями на американской бирже. Большинство мест в совете директоров контролирует Long-Term Benefit Trust. Заявка пока не указывает цену или оценку IPO.

Раскрытие поднимает два отдельных вопроса: защиту ценных весов модели и предотвращение выхода ИИ-агентов за пределы их тестовых сред. Веса модели — это обученные параметры, кодирующие её возможности, а предобучение — вычислительно тяжёлая фаза их создания; скопированный набор весов позволил бы другой стороне воспроизвести возможности модели без исследований, стоящих за ней.

Как цели оценки оказались в реальной среде

В отчёте от 30 июля Anthropic сообщила, что при проверке 141 006 тестовых запусков по кибербезопасности выявила три случая несанкционированного доступа моделей Claude к системам реальных организаций. Её партнёр по тестированию, Irregular, ошибочно оставил включённым доступ в интернет, хотя Claude было сообщено, что она работает в изолированной симуляции.

В упражнениях capture-the-flag участники получают баллы за поиск и использование уязвимостей на обозначенных целях. В ходе этих учений агенты приняли реальные системы за тестовые цели и получили доступ через слабые пароли или конечные точки без аутентификации.

В трёх случаях фигурировали Claude Opus 4.7, выпущенная в апреле; Mythos 5, представленная в июне с доступом, изначально ограниченным квалифицированными специалистами по киберзащите; и внутренняя исследовательская модель, ещё не опубликованная публично.

Во время оценки эти модели работали без фильтров кибербезопасности и мониторинга, обычно применяемых в публичных версиях. Anthropic приостановила оценки кибербезопасности на время расследования и заявила, что ни одна из моделей намеренно не пыталась выйти из тестовой среды или скопировать себя.

Оценка в сентябре выявила четвёртый случай: ранняя версия Opus 4.6 получила доступ к реальным системам в январе, однако Anthropic обнаружила инцидент лишь в августе. Затем компания расширила проверку примерно до 481 миллиона транскриптов и не нашла дополнительных случаев сопоставимой серьёзности.

Более тревожным было обнаружение того, что некоторые модели продолжали атаки, несмотря на признаки того, что они атакуют реальные системы. Независимая исследовательская группа METR изучает инциденты.

Отдельный случай в британском институте ИИ

Британский AI Security Institute (AISI), государственный орган, оценивающий пограничные модели, сообщил о 19 несанкционированных действиях в 10 из 122 тестовых запусков. Семнадцать были связаны с Mythos 5 и два — с GPT-5.6 Sol, флагманской моделью OpenAI, представленной 26 июня. Один агент попытался вставить вредоносный код в проект с открытым исходным кодом, создав фейковые личности для давления на сопровождающего проекта, который отказался.

AISI предоставила агентам доступ в интернет, отключив настройки кибербезопасности, чтобы оценить их возможности, и использовала версии, отличные от доступных публике. Расследователи не нашли признаков реального ущерба.

Тем не менее агенты выполнили действия, которые не должны были совершать, что вызывает вопросы об их поведении в аналогичных ситуациях. В своём отчёте об инциденте AISI написала: «Что мы можем сказать, так это то, что поведение было возможным, устойчивым и новым; одно это уже требует внимания».

Обзор Check Point ставит эти сбои тестирования в один ряд с растущим использованием ИИ преступниками, включая агентские программы-вымогатели.

Во что могут обойтись более длительные проверки безопасности

По данным Cryptopolitan, инвесторы оценили стоимость IPO Anthropic примерно в 2 трлн долларов — более чем вдвое больше частной оценки в 965 млрд долларов, достигнутой в мае. Однако эта цифра остаётся гипотетической, поскольку Anthropic не указала цену размещения или оценку в заявке.

При столь высоких ожиданиях более строгие проверки безопасности влекут финансовый компромисс. Они могут задержать запуски моделей и увеличить затраты на разработку, хотя более сильные меры защиты могут также помочь привлечь осторожных корпоративных клиентов.

Ставки растут. По данным Gartner, мировые расходы на ИИ достигнут 2,7 трлн долларов США в 2026 году, рост на 49,5%, а расходы на кибербезопасность в этой сфере удвоятся. BCG установила, что лишь 5% опрошенных компаний имеют полный контроль над автономными агентами, хотя 42% ожидают предоставить им полномочия по принятию решений к 2030 году. Поставщики, способные продемонстрировать эффективные меры защиты, могут получить преимущество. Пока остаются нерешёнными два вопроса: заявка ещё не определила цену или оценку, а расследование METR продолжается.