Kontroler finansowy Nowego Jorku Mark Levine wezwał Anthropic do wstrzymania planowanej pierwszej oferty publicznej (IPO), dopóki spółka nie zajmie się obawami dotyczącymi bezpieczeństwa sztucznej inteligencji, ładu korporacyjnego i tempa rozwoju AI.

W liście do dyrektora generalnego Anthropic Dario Amodei opublikowanym 14 października Levine argumentował, że spółka nie może jednocześnie ostrzegać opinii publicznej przed zagrożeniami związanymi z AI i ścigać się na rynki publiczne. Wniosek pojawia się w momencie, gdy Anthropic dąży do wyceny bliskiej 2 bilionom dolarów.

„Piszę, aby wezwać Anthropic do wstrzymania planowanej pierwszej oferty publicznej (IPO), dopóki spółka w pełny i przejrzysty sposób nie zajmie się podniesionymi przez siebie obawami dotyczącymi bezpieczeństwa sztucznej inteligencji (AI), ładu korporacyjnego i tempa rozwoju” — napisał Levine.

Levine powołuje się na wezwanie Amodei do spowolnienia rozwoju AI

Argument Levine'a opiera się częściowo na eseju Amodei „We Must Pace the Frontier”, opublikowanym 12 września. W eseju Amodei napisał: „Musimy spowolnić tempo, w jakim poprawiamy możliwości modeli AI”.

Amodei stwierdził, że rekursywne samoulepszanie oraz incydent bezpieczeństwa obejmujący wiele branż przekonały go, że branża AI potrzebuje większej ostrożności, a nie jedynie zwiększonych wydatków na bezpieczeństwo.

Esesj zaproponował plan trzech kroków. Pierwszy krok miałby zapewnić zewnętrznym ewaluatorom dostęp podobny do pracowniczego w celu weryfikacji praktyk bezpieczeństwa spółek. Anthropic oświadczyło, że już niezależnie zobowiązało się do tego środka. Drug krok przewidywał koordynację między spółkami AI w krajach demokratycznych, natomiast trzeci opowiadał się za koordynacją globalną, w tym z rządami autorytarnymi.

Według Levine'a IPO Anthropic mogłoby przeszkadzać w pracy, którą Amodei określił jako pilną. Esesj zyskał poparcie części branży AI, przy czym dyrektor generalny OpenAI Sam Altman i dyrektor generalny xAI Elon Musk zgodzili się z jego tezami.

Levine jest również bezpośrednio związany z interesami inwestycyjnymi Nowego Jorku. Jako kontroler finansowy pełni funkcję doradcy inwestycyjnego, depozytariusza i powiernika miejskich funduszy emerytalnych, które posiadają aktywa o wartości ponad 325 miliardów dolarów. Biuro kontrolera poinformowało, że publiczne fundusze emerytalne mają około 7 milionów dolarów ekspozycji na Anthropic poprzez private equity.

Chociaż ten udział jest stosunkowo niewielki, Levine stwierdził, że daje jego biuru podstawę do wywierania presji na Anthropic, zanim spółka stanie się spółką publiczną.

Obawy dotyczące struktury zarządzania Anthropic

Levine wyraził również obawy dotyczące struktury korporacyjnej Anthropic. Spółka jest korporacją pożytku publicznego z Delaware (public benefit corporation) z Long-Term Benefit Trust. Korporacja pożytku publicznego to struktura komercyjna, która wymaga od dyrektorów równoważenia zwrotów dla akcjonariuszy z określonym celem pożytku publicznego, podczas gdy trust tego rodzaju ma dawać niezależnemu organowi zarządzającemu rolę w ochronie długoterminowej misji spółki. Według Levine'a doniesienia wskazują, że struktura ta mogłaby skoncentrować kontrolę w rękach założycieli i powierników.

Argumentował, że luka między tą kontrolą a rozliczalnością wobec akcjonariuszy byłaby trudna do zaakceptowania w świetle ryzyk, które Anthropic już ujawniło.

Levine skrytykował również ostatnie porozumienie między branżą AI a rządem USA. Anthropic i pięć innych spółek podpisało to, co w liście opisano jako moralnie wiążący układ z Białym Domem. Levine stwierdził, że porozumienie „jest niewystarczające, aby sprostać sytuacji”.

Obawy Levine'a wzmacniają własne ujawnienia Anthropic. W poufnym projekcie zgłoszenia S-1 spółka ostrzegła, że zaawansowana AI mogłaby stanowić „ryzyko katastrofalne lub egzystencjalne dla ludzkości”. Sekcja czynników ryzyka liczy, według doniesień, około 80 stron, czyli prawie dwa razy więcej niż sekcja opisująca działalność spółki.

Levine zauważył, że esej Amodei został opublikowany po rezygnacji Jacoba Coxona, byłego badacza Anthropic, 9 września. Coxon wskazał obawy egzystencjalne jako powód odejścia z Anthropic i powiedział, że osoby związane ze spółką wierzą, że AI mogłoby zniszczyć ludzkość końca dekady, jeśli rozwój będzie postępował w obecnym tempie.

Evan Hubinger, kierownik ds. nauki o zgodności (alignment science) w Anthropic, oszacował prawdopodobieństwo, że AI zabije wszystkich ludzi w ciągu dekady, na ponad 10%.

Anthropic zgłasza szybki wzrost przychodów

Debata o bezpieczeństwie i ładzie korporacyjnym Anthropic trwa w momencie, gdy spółka przygotowuje się do potencjalnego debiutu, który mógłby ją wycenić na ponad 2 biliony dolarów.

Podczas prywatnego spotkania przed IPO w San Francisco w środę, 14 października, Anthropic poinformowało inwestorów, że przychody trzeciego kwartału osiągnęły około 16,8 miliarda dolarów, co stanowi wzrost o 45% względem poprzedniego kwartału. Spółka powiedziała również, że wygenerowała skorygowany zysk.

Anthropic odnotowało przychody w wysokości 4,7 miliarda dolarów w pierwszym kwartale roku. Ta kwota znacznie wzrosła w drugim kwartale, kiedy przychody osiągnęły około 11,6 miliarda dolarów. Pomimo wzrostu spółka nadal zanotowała stratę operacyjną przekraczającą 8 miliardów dolarów w tym okresie.

Anthropic poinformowało również inwestorów, że miało dodatni przepływ pieniężny na koniec trzeciego kwartału — nietypowe oświadczenie w branży, której wiodące spółki nadal mocno wydają na infrastrukturę i moc obliczeniową.

Spółka ma obecnie ponad 518 miliardów dolarów zaplanowanych zobowiązań infrastrukturalnych i obliczeniowych na najbliższą dekadę. Zobowiązania te stanowią część argumentacji za debiutem, który mógłby przekroczyć 2 biliony dolarów i potencjalnie wprowadzić Anthropic na rynki publiczne przed konkurencyjnym OpenAI, które celuje w debiut na początku 2027 roku.

Anthropic poufnie złożyło projekt zgłoszenia rejestracyjnego S-1 do Komisji Papierów Wartościowych i Giełd (SEC) 1 czerwca. Poufny projekt S-1 pozwala pracownikom SEC na przegląd zgłoszenia rejestracyjnego spółki przed jego upublicznieniem, a złożenie publiczne jest wymagane, zanim akcje będą mogły być oferowane zewnętrznym inwestorom.

Anthropic nie ujawniło dokładnej daty IPO. Spekulanci sugerowali, że oferta mogłaby odbyć się po listopadowych wyborach śródokresowych w USA, choć oczekuje się, że spółka i tak zadebutuje przed OpenAI. Odpowiedź Anthropic na list Levine'a oraz termin przejścia do publicznego zgłoszenia S-1 to obecnie jedne z kluczowych kwestii do obserwowania w miarę postępu procesu debiutu.