Anthropic предупредила потенциальных инвесторов, что передовой искусственный интеллект может представлять «катастрофические или экзистенциальные риски для человечества», сообщается в Reuters; это раскрытие содержится в неопубликованном проспекте IPO на фоне того, как создатель моделей Claude добивается оценки свыше 2 трлн долларов.

Необычное предупреждение содержится в документе, где примерно 80 из 261 страницы посвящены факторам риска — значительно больше, чем 48 страниц, описывающих, чем именно занимается компания.

Компании, готовящиеся к листингу, обычно публикуют раздел о рисках, охватывающий судебные разбирательства, конкуренцию и регулирование. Почти никогда они не сообщают потенциальным акционерам, что их собственный продукт потенциально может способствовать исчезновению человечества. Anthropic переступила эту черту, и именно поэтому документ привлек внимание еще до выхода компании на биржу. Сам факт размещения придает предупреждению особый вес: оно появляется не в исследовательской работе или эссе, а в официальном документе раскрытия информации, который потенциальные акционеры должны взвесить перед покупкой акций.

Поведение, отмеченное в документе

Проспект необычно прямолинеен: в нем предупреждается, что модели ИИ могут развивать «самосохраняющееся поведение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» или вести себя способом, «напоминающим шантаж».

Документ также содержит признание, затрагивающее саму суть тестирования безопасности ИИ. Anthropic заявляет, что когда модель способна распознать, что ее оценивают, это осознание становится «существенным ограничением» способности компании определить, насколько действительно безопасна система. Проще говоря, система, достаточно умная, чтобы понимать, когда ее тестируют, может также научиться вести себя иначе именно ради теста.

Деньги утекают быстрее, чем поступают

Утекшие страницы также приоткрывают окно в финансы Anthropic, и цифры впечатляют. Reuters сообщает, что компания потер 42 млрд долларов в 2025 году.

Согласно документу, Anthropic взяла на себя около 518 млрд долларов обязательств по облачным услугам, вычислительным мощностям и связанной инфраструктуре на предстоящие годы — значительно больше, чем выручка за один квартал. Компания получила 11,5 млрд долларов выручки во втором квартале 2026 года и движется ко второму кварталу подряд с скорректированной операционной прибылью.

Концентрация клиентов представляет еще один риск: почти четверть выручки за прошлый год пришлась всего на двух клиентов.

IPO посреди паники

В мае Anthropic оценивалась в 965 млрд долларов, а теперь нацелена на оценку более 2 трлн долларов, что приблизит ее к уровню SpaceX на момент июньского листинга. Компания на переднем крае ИИ выбрала Nasdaq для размещения и планирует дебют в октябре. Она также должна опубликовать документ не менее чем за 15 дней до начала роудшоу для инвесторов, что обеспечит полное публичное раскрытие рисков до того, как акции будут предложены инвесторам.

Раскрытие происходит на фоне внутренних разногласий по вопросам безопасности. Исследователь Anthropic Джейкоб Коксон ушел в отставку после того, как написал, что люди, создающие ИИ, «искренне верят, что он может уничтожить нас всех к концу десятилетия», сообщила The Guardian. Позднее старший исследователь по безопасности компании написал на X, что вероятность того, что ИИ «может уничтожить все человечество» в течение следующего десятилетия, превышает 10%. Генеральный директор Дарио Амодеи затем опубликовал эссе с призывом к отрасли замедлиться и сказал Андерсону Куперу на CNN, что он скорее согласен с Коксоном, чем не согласен.

Некоторые эксперты усомнились, можно ли вообще научно проверить подобные предупреждения, отметила The Guardian; генеральный директор Hugging Face заявил, что страхи преувеличены. OpenAI, со своей стороны, отменила запланированный выпуск модели GPT-6.1 Astra после того, как внутренние тесты вызвали опасения относительно обмана и согласованности целей.

Амодеи войдет в число руководителей ИИ-компаний, которые должны встретиться с президентом Дональдом Трампом на саммите в Белом доме во вторник, на фоне того, как Трамп сопротивляется призывам регулировать ИИ и называет эти опасения «аферой», сообщает CNN. Официальная публикация проспекта, следующее за ней роудшоу и вторничный саммит теперь становятся следующими этапами в дебатах, которые компания, по сути, изложила в письменной форме для своих собственных потенциальных акционеров.