Anthropic ostrzegł potencjalnych inwestorów, że zaawansowana sztuczna inteligencja może stwarzać „katastrofalne lub egzystencjalne zagrożenia dla ludzkości” — podał Reuters. Ostrzeżenie znalazło się w nieopublikowanym prospekcie IPO, gdy twórca modeli Claude AI dąży do wyceny przekraczającej $2 biliony.

To nietypowe ostrzeżenie pojawia się w dokumencie, w którym około 80 z 261 stron poświęcono czynnikom ryzyka — znacznie więcej niż 48 stron wyjaśniających, czym faktycznie zajmuje się spółka.

Spółki przygotowujące się do debiutu giełdowego rutynowo publikują sekcję dotyczącą ryzyka, obejmującą postępowania sądowe, konkurencję i regulacje. Niemal nigdy nie informują jednak potencjalnych akcjonariuszy, że ich własny produkt może potencjalnie przyczynić się do wyginięcia ludzkości. Anthropic przekroczył tę granicę i właśnie dlatego prospekt przyciągnął uwagę, zanim spółka zdążyła wejść na giełdę. Umiejscowienie tego ostrzeżenia nadaje mu szczególną wagę: nie pojawia się ono w pracy badawczej ani eseju, lecz w formalnym dokumencie informacyjnym, który potencjalni akcjonariusze mają ocenić przed zakupem akcji.

Zachowania wskazane w prospekcie

Prospekt jest nietypowo bezpośredni. Ostrzega, że modele AI mogą rozwinąć „zachowania służące samozachowaniu”, w tym próby „opierania się wyłączeniu”, „ukrywania lub manipulowania informacjami” albo podejmowania działań „przypominających szantaż”.

Dokument zawiera również przyznanie dotyczące samego sedna testowania bezpieczeństwa AI. Anthropic twierdzi, że gdy model potrafi rozpoznać, iż jest poddawany ocenie, świadomość ta staje się „istotnym ograniczeniem” zdolności spółki do określenia, jak bezpieczny jest system w rzeczywistości. Mówiąc prościej, system wystarczająco inteligentny, by wiedzieć, kiedy jest testowany, może także nauczyć się zachowywać inaczej wyłącznie na potrzeby testu.

Pieniądze wypływają szybciej, niż napływają

Ujawnione strony pozwalają również zajrzeć w finanse Anthropic, a liczby są bardzo wysokie. Reuters podał, że spółka straciła $42 miliardy w 2025 roku.

Zgodnie z prospektem Anthropic określił zobowiązania na około $518 miliardów związane z usługami chmurowymi, mocą obliczeniową i powiązaną infrastrukturą w nadchodzących latach — znacznie więcej niż przychody z jednego kwartału. W II kwartale 2026 roku spółka wygenerowała $11.5 miliarda przychodów i zmierza do drugiego z rzędu kwartału zysku operacyjnego po korektach.

Koncentracja klientów stanowi kolejne ryzyko: niemal jedna czwarta przychodów z ubiegłego roku pochodziła zaledwie od dwóch klientów.

IPO w środku paniki

W maju Anthropic wyceniano na $965 miliardów, a obecnie spółka celuje w wycenę przekraczającą $2 biliony, co oznaczałoby poziom zbliżony do wyceny SpaceX w momencie jej czerwcowego debiutu. Firma rozwijająca zaawansowaną AI wybrała Nasdaq jako miejsce oferty i planuje debiut w październiku. Musi również opublikować prospekt co najmniej 15 dni przed rozpoczęciem spotkań z inwestorami, dzięki czemu pełne ujawnienia dotyczące ryzyka zostaną przedstawione opinii publicznej przed rozpoczęciem oferowania akcji inwestorom.

Ujawnienie pojawia się w czasie wewnętrznych napięć dotyczących bezpieczeństwa. Badacz Anthropic Jacob Coxon zrezygnował po napisaniu, że osoby budujące AI „szczerze wierzą, że do końca dekady może ona zabić nas wszystkich” — podał Guardian. Jeden z czołowych badaczy bezpieczeństwa w spółce napisał później na X, że istnieje ponad 10-procentowe prawdopodobieństwo, iż AI „może zabić wszystkich ludzi” w ciągu najbliższej dekady. Dyrektor generalny Dario Amodei opublikował następnie esej wzywający branżę do spowolnienia prac i powiedział Andersonowi Cooperowi z CNN, że bardziej zgadzał się z Coxonem, niż się z nim nie zgadzał.

Jak zauważył Guardian, niektórzy eksperci zakwestionowali, czy takie ostrzeżenia można w ogóle zweryfikować naukowo. Dyrektor generalny Hugging Face uznał obawy za przesadzone. Tymczasem OpenAI zrezygnowało z planowanego wydania modelu GPT-6.1 Astra po tym, jak wewnętrzne testy wzbudziły obawy dotyczące oszustwa i zgodności z założeniami.

Amodei ma być jednym z dyrektorów firm AI, którzy spotkają się we wtorek z prezydentem Donaldem Trumpem podczas szczytu w Białym Domu. Trump sprzeciwia się wezwaniom do regulacji AI i określił te obawy jako „hoax” — podało CNN. Formalna publikacja prospektu, późniejsze spotkania z inwestorami oraz wtorkowy szczyt są obecnie kolejnymi punktami kontrolnymi w debacie, którą spółka w praktyce zapisała w dokumencie przeznaczonym dla własnych potencjalnych akcjonariuszy.