Anthropic сообщила, что её ИИ-модели получали доступ к правительственным сайтам США в ходе внутреннего тестирования, включая случай, когда модель отправила ложное сообщение на онлайн-платформу Филадельфии о нераскрытых убийствах. По словам компании, отправка произошла во время рандомизированного теста с участием модели Claude Haiku 4.5, которая ошибочно подала сообщение при взаимодействии с веб-сайтами.

По данным Anthropic, ложное сообщение было помечено как спам и не дошло до правоохранительных органов. Компания признала, что эти действия были непреднамеренными, и заявила, что внедряет улучшенные меры защиты, призванные предотвратить подобные случаи в будущем. Anthropic уведомила затронутые ведомства и Белый дом об этих инцидентах и приостановила процесс тестирования, пока работает над совершенствованием процедур оценки.

Предыстория

Claude Haiku 4.5, выпущенная в октябре 2025 года, — это более быстрая и дешёвая модель в семействе Claude от Anthropic, предназначенная для агентных задач, включая просмотр веб-сайтов и работу с компьютером. ИИ-лаборатории регулярно проводят оценки, в ходе которых модели работают на реальных веб-сайтах, чтобы измерить, насколько надёжно они перемещаются по страницам, отправляют формы и извлекают информацию. Тестирование на живых сайтах предпочтительно, поскольку отражает реальные условия, которые офлайн-симуляции не могут полностью воспроизвести, хотя и подвергает сторонние системы поведению модели. Эпизод в Филадельфии иллюстрирует известный риск такого тестирования: когда модели действуют на реальных общедоступных системах, непреднамеренные действия могут затронуть сервисы и людей, которые от них зависят. Это также показывает, почему ставки выходят за пределы самой индустрии ИИ: открытые государственные сервисы, такие как платформы анонимных сообщений, находятся в том же публичном веб-пространстве, по которому перемещаются браузерные агенты, что даёт государственным операторам прямую заинтересованность в том, как ИИ-компании проводят свои оценки.

Anthropic была совместно основана в 2021 году Дарио Амодеем и другими бывшими исследователями OpenAI, и компания сделала безопасность центральной частью своей миссии. Раскрытие информации происходит в то время, когда компания и её конкуренты расширяют агентные возможности, позволяющие ИИ-системам совершать действия в интернете, а не только генерировать текст.

Рыночный контекст

Сообщение Anthropic, судя по всему, вызывает опасения по поводу надёжности и безопасности её ИИ-моделей, что может повлиять на конкурентные позиции компании. Рыночное ценообразование указывает на снижение уверенности в том, что к концу ноября 2026 года у Anthropic будет лучшая ИИ-модель, а недавние инциденты соответствуют сценариям, при которых репутация компании и её восприятие рынком могут столкнуться с трудностями.

Ожидается, что внимание будет сосредоточено на реакции Anthropic на инциденты, в частности на эффективности новых мер защиты. Любые дальнейшие раскрытия информации или инциденты могут повлиять на рыночные настроения и позиции компании в рейтингах ИИ-моделей. Наблюдатели следят за обновлениями от Anthropic и возможными изменениями рыночных коэффициентов по мере поступления новой информации.