Anthropic объявила, что её недавно выпущенные ИИ-модели, включая серию Claude Opus, демонстрируют меньшую вероятность автономного запуска атак. Это заявление сделано на фоне продолжающихся усилий компании по повышению безопасности и надёжности своих ИИ-систем.

По данным Anthropic, недавние внутренние тесты показали, что модели Claude Opus значительно снизили успешность атак — результат, который компания представляет как свидетельство улучшенной устойчивости к атакам через косвенные промпты, при которых ИИ-системы манипулируются через обрабатываемый контент, а не через прямой пользовательский ввод. Этот вектор атак стал ключевым направлением работы по безопасности во всей ИИ-индустрии, поскольку модели всё чаще читают и реагируют на недоверенный контент, такой как веб-страницы, документы и электронные письма, а не только на прямые команды пользователей.

Несмотря на заявленные достижения, случаи злоупотребления этими моделями в реальных условиях всё же фиксировались, что подчёркивает сложность полной защиты ИИ-систем на практике и иллюстрирует разрыв, который может сохраняться между результатами контролируемых тестов и поведением в реальной эксплуатации.

Anthropic, основанная в 2021 году бывшими исследователями OpenAI, включая генерального директора Дарио Амодеи, разрабатывает семейство ИИ-моделей Claude и поставила исследования безопасности в центр своей миссии. Компания также опубликовала Responsible Scaling Policy, описывающую, как она оценивает и применяет меры защиты к всё более мощным моделям перед выпуском — это часть более широкой отраслевой практики предварительного тестирования безопасности передовых ИИ-систем.

Это событие вызвало интерес на прогностических рынках, где внимательно следят за положением Anthropic в рейтингах ИИ-моделей. Рыночное ценообразование указывает, что участники видят умеренное повышение вероятности достижения Anthropic более высоких позиций в рейтингах, а зафиксированные случаи злоупотребления подчёркивают сохраняющиеся проблемы, которые могут повлиять на будущие рыночные ожидания.

В перспективе будущие заявления Anthropic о производительности и безопасности её ИИ-моделей могут дополнительно повлиять на рыночные настроения. Ожидается, что наблюдатели будут следить за результатами независимых бенчмарков, чтобы определить, сохранят ли модели Anthropic свои позиции или улучшат их — шаг, который приобретает дополнительный вес, учитывая, что последние выводы основаны на собственных внутренних оценках компании. Любые новые события в области безопасности ИИ или дополнительные сообщения о злоупотреблениях могут существенно повлиять на рыночную оценку потенциала Anthropic занять лидирующие позиции в рейтингах ИИ-моделей к концу октября и ноябрю 2026 года.

Источник: CryptoBriefing