Anthropic открыла коммуникацию с контроллером Нью-Йорка Марком Левином после того, как этот городской чиновник публично попросил компанию в сфере искусственного интеллекта отложить запланированное первичное публичное размещение акций из-за проблем с безопасностью и управлением. Этот шаг показывает, как вопросы, которые ранее обсуждались лишь в исследовательских лабораториях ИИ и политических кругах, теперь поднимаются государственными служащими, чьи пенсионные средства в итоге могут быть инвестированы в компанию.

Выступая в пятницу на Bloomberg Television, Левин подтвердил, что переговоры между его офисом и компанией начались, однако отказался раскрывать их характер. «Похоже, что сейчас они испытывают давление с разных сторон», — сказал Левин.

Эта новость появилась на фоне подготовки Anthropic к возможному листингу на фондовом рынке в ноябре, который может стать одним из крупнейших IPO в истории: инвесторы, по имеющимся сведениям, обсуждают оценку от 1,5 до 2 трлн долларов.

Контроллер Нью-Йорка предупреждает о рисках ИИ-безопасности

В письме, направленном в среду генеральному директору Anthropic Дарио Амодеи, Левин призвал компанию отложить IPO до тех пор, пока она должным образом не решит вопросы безопасности ИИ, управления и роста автономности систем.

Левин также усомнился, обеспечивает ли недавнее добровольное соглашение о безопасности между администрацией Трампа и крупными ИИ-компаниями, включая Anthropic, достаточные меры защиты от рисков, создаваемых всё более совершенными системами, — сомнение, лежащее в центре более широкой дискуссии о том, хватает ли добровольных обязательств, чтобы поспевать за стремительным развитием технологий.

«Если они выйдут на биржу, а затем произойдёт катастрофический инцидент в сфере безопасности, выходящий далеко за рамки того, что мы наблюдаем сейчас, это станет ужасным для их акций», — сказал Левин в интервью Bloomberg.

В должности контроллера Левин курирует пенсионные фонды Нью-Йорка, совокупно управляющие активами на сумму более 325 млрд долларов. Часть этих фондов держит инвестиции, отслеживающие основные фондовые индексы, что потенциально увеличивает их экспозицию к Anthropic после завершения публичного дебюта компании. Поскольку индексные фонды автоматически воспроизводят свои бенчмарки, акции компании войдут в эти портфели, как только она попадёт в основные индексы.

Левин утверждал, что откладка листинга даст Anthropic дополнительное время для создания системы управления, способной решать именно те риски, которые выявили исследователи самой компании.

Anthropic готовится к ноябрьскому IPO на фоне вопросов об оценке

Переговоры проходят по мере того, как Anthropic продолжает подготовку к дебюту на фондовом рынке. В ходе встречи с отобранными инвесторами в среду компания сообщила, что её доход за третий квартал достиг 16,8 млрд долларов, что на 45% больше, чем в предыдущем квартале.

Тем не менее, по имеющимся сведениям, некоторые потенциальные инвесторы обсуждали оценку ближе к 1,5 трлн долларов — ниже ранее ожидавшихся примерно 2 трлн долларов — на фоне опасений по поводу затрат на разработку ИИ. Этот разрыв отражает ключевое противоречие листинга: быстрый рост доходов на фоне высоких затрат на создание передовых ИИ-систем.

Тем временем Амодеи публично признавал опасности, связанные с появлением всё более совершенных ИИ-систем. В эссе, опубликованном в прошлом месяце, он призвал к более тесному сотрудничеству между правительствами и разработчиками ИИ для решения таких рисков, как утрата контроля, экономические потрясения, кибератаки и терроризм, — предупреждения, во многом перекликающиеся с проблемами, на которые указывал Левин, добиваясь отсрочки.

Несмотря на признание того, что откладка IPO может создать неопределённость на рынке, Левин настаивал, что потенциальные последствия крупного инцидента в сфере безопасности после листинга оправдывают дополнительную осторожность.

«Меня беспокоит сценарий, когда компания выходит на биржу, а затем происходит инцидент», — сказал он.

Пока приближается возможный дебют в ноябре и продолжаются дискуссии об оценке, вопрос о том, как компания решит проблемы безопасности и управления, поднятые в письме, скорее всего, останется в центре внимания до листинга.