Контролёр Нью-Йорка Марк Левин призвал Anthropic приостановить запланированное первичное публичное размещение акций (IPO), пока компания не решит проблемы, связанные с безопасностью искусственного интеллекта, управлением и темпами развития ИИ.

В письме генеральному директору Anthropic Дарио Амодеи, опубликованном 14 октября, Левин заявил, что компания не может одновременно предупреждать общественность об опасностях ИИ и стремиться на публичный рынок. Запрос поступил в момент, когда Anthropic добивается оценки почти в 2 триллиона долларов.

«Я пишу, чтобы призвать Anthropic приостановить запланированное первичное публичное размещение акций (IPO), пока компания полностью и прозрачно не решит поднятые ею самой вопросы безопасности искусственного интеллекта (ИИ), управления и темпов разработки», — написал Левин.

Левин ссылается на призыв Амодеи замедлить развитие ИИ

Аргументация Левина частично опирается на эссе Амодеи «We Must Pace the Frontier», опубликованное 12 сентября. В эссе Амодеи написал: «Мы должны замедлить темпы, которыми мы улучшаем возможности моделей ИИ».

Амодеи сказал, что рекурсивное самоулучшение и инцидент в сфере безопасности, затронувший целый ряд отраслей, убедили его в том, что индустрии ИИ нужна большая осторожность, а не просто увеличение расходов на безопасность.

В эссе был предложен план из трёх шагов. Первый шаг предполагает предоставление сторонним оценщикам доступа, аналогичного доступу сотрудников, для проверки практики компаний в области безопасности. Anthropic сообщила, что уже independently взяла на себя это обязательство. Второй шаг предусматривает координацию между компаниями ИИ в демократических странах, а третий — глобальную координацию, в том числе с авторитарными правительствами.

По мнению Левина, IPO Anthropic может помешать работе, которую Амодеи называет неотложной. Эссе получило поддержку части индустрии ИИ: с его положениями согласились генеральный директор OpenAI Сэм Альтман и глава xAI Илон Маск.

Левин также напрямую связан с инвестиционными интересами Нью-Йорка. В качестве контролёра он выступает инвестиционным консультантом, хранителем и попечителем пенсионных фондов города, которые располагают активами на сумму более 325 миллиардов долларов. Офис контролёра сообщил, что публичные пенсионные фонды имеют экспозицию в Anthropic около 7 миллионов долларов через частный капитал.

Хотя эта доля относительно невелика, Левин заявил, что она даёт его офису основание для давления на Anthropic до того, как компания станет публичной.

Опасения относительно структуры управления Anthropic

Левин также выразил озабоченность корпоративной структурой Anthropic. Компания публичной бенефициарной корпорацией штата Делавэр с Long-Term Benefit Trust. Публичная бенефициарная корпорация — это коммерческая структура, требующая от директоров балансировать доходность акционеров с заявленной общественной целью, а подобный траст предназначен для того, чтобы независимый орган управления участвовал в защите долгосрочной миссии компании. По словам Левина, согласно сообщениям, эта структура может сосредоточить контроль в руках основателей и попечителей.

Он утверждал, что разрыв между таким контролем и подотчётностью акционерам трудно оправдать с учётом рисков, которые Anthropic сама уже раскрыла.

Левин также раскритиковал недавнее соглашение между индустрией ИИ и правительством США. Anthropic и ещё пять компаний подписали то, что в письме названо морально обязательным соглашением с Белым домом. Левин заявил, что это соглашение «недостаточно для ответа на вызов момента».

Опасения Левина усиливаются собственными раскрытиями Anthropic. В конфиденциальном проекте заявки S-1 компания предупредила, что продвинутый ИИ может представлять «катастрофические или экзистенциальные риски для человечества». Раздел о факторах риска, по сообщениям, занимает около 80 страниц — почти вдвое больше, чем раздел с описанием бизнеса.

Левин отметил, что эссе Амодеи было опубликовано после того, как 9 сентября уволился Джейкоб Коксон, бывший исследователь Anthropic. Коксон назвал причиной ухода экзистенциальные опасения и сказал, что инсайдеры считают, будто ИИ может уничтожить человечество до конца десятилетия, если разработка продолжится нынешними темпами.

Иван Хабингер, руководитель направления науки о согласовании целей в Anthropic, оценил вероятность того, что ИИ уничтожит всё человечество в течение десятилетия, выше 10%.

Anthropic сообщает о быстром росте выручки

Дискуссия о безопасности и управлении в Anthropic разворачивается на фоне подготовки компании к потенциальному размещению, которое может оценить её более чем в 2 триллиона долларов.

На закрытой встрече с инвесторами в Сан-Франциско в среду, 14 октября, Anthropic сообщила, что выручка в третьем квартале достигла примерно 16,8 миллиарда долларов, увеличившись на 45% по сравнению с предыдущим кварталом. Компания также заявила о получении скорректированной прибыли.

Выручка Anthropic в первом квартале года составила 4,7 миллиарда долларов. Во втором квартале этот показатель существенно вырос, достигнув примерно 11,6 миллиарда долларов. Несмотря на рост, компания за период всё же зафиксировала операционный убыток более 8 миллиардов долларов.

Anthropic также сообщила инвесторам, что по итогам третьего квартала у неё положительный денежный поток — необычное заявление для отрасли, ведущие компании которой продолжают активно тратить средства на инфраструктуру и вычисления.

В настоящее время у компании обязательства по инфраструктуре и вычислениям на предстоящее десятилетие превышают 518 миллиардов долларов. Эти обязательства — часть аргументов в пользу размещения, которое может превысить 2 триллиона долларов и, возможно, вывести Anthropic на публичный рынок раньше конкурента OpenAI, ориентированной на дебют в начале 2027 года.

Anthropic конфиденциально подала проект регистрационного заявления S-1 в Комиссию по ценным бумагам и биржам США (SEC) 1 июня. Конфиденциальный проект S-1 позволяет сотрудникам SEC изучить регистрационное заявление до его обнародования, а публичная подача требуется до предложения акций внешним инвесторам.

Anthropic не раскрыла точную дату IPO. По предположениям наблюдателей, размещение может состояться после ноябрьских промежуточных выборов в США, хотя ожидается, что компания выйдет на рынок раньше OpenAI. Ответ Anthropic на письмо Левина и сроки перехода к публичной подаче S-1 — одни из ключевых моментов, за которыми стоит следить по мере развития процесса размещения.