Anthropic's langverwachte IPO-prospectus is maandag openbaar gemaakt, en naast de gebruikelijke openbaarmakingen over verliezen, omzet, bestuur en infrastructuurplannen bevat het circa 300 pagina's tellende document misschien wel de meest opvallende set risicofactoren die ooit aan een bedrijf op weg naar een beursgang is verbonden: de erkenning dat de technologie die het verkoopt "catastrofale of existentiële risico's voor de mensheid" zou kunnen opleveren. Die zorg bestaat, zo geeft het bedrijf toe, zelfs "binnen onze organisatie".

De meeste bedrijven die aandelen willen uitgeven, waarschuwen beleggers voor concurrentie, regulering en de economie. De aangifte van Anthropic doet dat allemaal— maar het bedrijf gaat verder en wijst ook op gevaren die aan de eigen producten verbonden zijn. Risicofactorsecties zijn verplicht onder de effectenregelgeving, en zodra de aandelen van een bedrijf verhandeld worden, vormen ze het formele verslag van wat beleggers vóór de aankoop is verteld.

In veel opzichten zijn de waarschuwingen niet verrassend. Het bedrijf spreekt al geruime tijd openlijk over de risico's die het denkt dat zijn AI-modellen kunnen opleveren. CEO Dario Amodei heeft zijn eigen "p(doom)"—de kans dat AI de mensheid vernietigt—geschat op tussen de 10% en 25%, en werknemers hebben publiekelijk zorgen geuit over steeds capabelere systemen.

In totaal wijdt Anthropic ongeveer 94 pagina's van de aangifte aan het beschrijven van dreigingen voor zijn bedrijf. Dit zijn de vijf die uitvallen.

Ontspoorde modellen en catastrofale incidenten

Volgens de prospectus vormen geavanceerde AI-systemen vooral existentiële risico's als ze worden misbruikt, bewapend of met grote autonomie mogen opereren. Steeds autonomere systemen zouden—door desalignering of zelfbehoudgedrag—"onafhankelijk op grote schaal schadelijke acties kunnen ondernemen zonder menselijke tussenkomst", zo waarschuwde het bedrijf.

Anthropic waarschuwde ook in zijn S-1—de officiële naam voor het formulier van de Amerikaanse Securities and Exchange Commission dat bedrijven moeten indienen voordat ze voor het eerst aandelen aan het publiek verkopen—dat het het overzicht over de eigen activiteiten zou kunnen verliezen naarmate het zwaarder leunt op Claude voor taken zoals softwareontwikkeling. "Omdat onze modellen een grote en groeiende share van onze code schrijven en steeds vaker ons onderzoek uitvoeren, inclusief ons veiligheidsonderzoek", aldus de aangifte, "zou afwijkend gedrag bij intern gebruik dat werk kunnen ondermijnen, kwetsbaarheden kunnen introduceren in onze systemen of in de training van toekomstige modellen, of kunnen leiden tot modellen die buiten onze beoogde controle opereren."

Het bedrijf voegde toe dat zijn modellen beter zijn geworden in het omzeilen van bepaalde veiligheidstechnieken, onder meer door hun doelen of gedrag te verhullen, en dat het vermogen om te meten hoe goed de modellen zijn afgestemd "daardoor kan afnemen".

De mogelijke kosten kunnen enorm zijn. "Gezien de omvang van de schade die een catastrofaal AI-gerelateerd incident kan veroorzaken, kan geen enkele verzekeraar, en mogelijk de verzekeringssector in zijn totaliteit, voldoende capaciteit hebben" om het te dekken, waarschuwt de aangifte. Deze passage komt neer op de verklaring dat er voor worstcase AI-incidenten mogelijk helemaal geen financieel vangnet is.

Anthropic beschreef ook de vele manieren waarop zijn modellen door mensen kunnen worden misbruikt, met name het risico van "malwarecreatie, phishing en aanvallen op infrastructuur". "Kwaadwillenden hebben bijvoorbeeld al spraakmakende cyberaanvallen uitgevoerd met behulp van AI om kwetsbaarheden te ontdekken, malware te genereren en detectietools te omzeilen; andere risico's die samenhangen met misbruik, waaronder op het gebied van biologie, kunnen tot nog grotere schade leiden", schreef het bedrijf. "AI die op grote schaal wordt ingezet, heeft ook het potentieel om macht en welvaart te concentreren binnen en tussen landen op manieren die vertrouwen kunnen ondermijnen, de samenleving kunnen schaden en de geopolitieke orde kunnen destabiliseren."

Elders in de prospectus waarschuwde Anthropic dat AI breder gezien door autoritaire regeringen zou kunnen worden gebruikt om hoogtechnologische surveillancetstates te bouwen, en zei het zich in te zetten om samen te werken met vrije samenlevingen om die mogelijkheid tegen te gaan.

Politieke risico's: een conflict met het Pentagon en het spookbeeld van nationalisatie

Ook al komt het naar de beurs, Anthropic staat nog steeds in open conflict met de federale overheid over het gebruik van zijn AI-modellen voor defensiewerk. In februari zei president Trump dat hij alle federale instanties had opgedragen te stoppen met het gebruik van de technologie van het bedrijf, nadat Anthropic had geweigerd zijn modellen beschikbaar te stellen voor elk wettelijk doel—waaronder massale binnenlandse surveillance of volledig autonome wapens. het kader van het geschil heeft het Department of War het bedrijf aangemerkt als een risico voor de nationale veiligheid.

Anthropic daagt de aanmerking als "supply-chain risico" van het departement voor de rechter. Een federale district court schoof het bedrijf in augustus grotendeels bij, met de uitspraak dat de acties van de overheid vergaderend waren en het Eerste Amendement schonden. Maar in september hield een verdeelde panel van het D.C. Circuit de aanmerking in stand, en Anthropic heeft gevraagd dat de volledige court de zaak opnieuw behandelt—waardoor een van de meest ingrijpende juridische strijden van het bedrijf onopgelost blijft nu de beursgang nadert.

De aangifte waarschuwt dat de voortdurende strijd met het Pentagon "aanzienlijke reputatieschade" kan toebrengen, ongeacht hoe de rechtszaak afloopt, en dat klanten aankopen kunnen uitstellen of overslaan, of extra contractuele garanties kunnen eisen. Het document meldt ook dat het departement heeft gesuggereerd de Defense Production Act te kunnen inroepen om Anthropic te dwingen zijn beperkingen op autonome wapens en surveillance los te laten.

De regering-Trump heeft de activiteiten van het bedrijf al eerder beperkt. In juni legde het ministerie van Handel exportrestricties op waardoor Anthropic zijn Fable 5- en Mythos 5-modellen voor alle klanten moest uitschakelen, met verwijzing naar zorgen over de nationale veiligheid.

De aangifte gaat ook in op andere mogelijke beleidswijzigingen en merkt op dat voorgestelde Amerikaanse wetgeving denkt aan "mogelijke nationalisatie" en "verplichte afsluiting of stopzetting van frontier-AI-systemen" als manieren om de ontwikkeling van artificiële superintelligentie te beheersen. Verdere overheidsmaatregelen om AI te reguleren "zouden onze manier van zaken doen kunnen beperken", aldus de aangifte.

Schaarsheid van compute en het risico van een prijzenoorlog

De voortdurende groei van Anthropic hangt af van het verkrijgen van enorme hoeveelheden dure en steeds schaarsere rekenkracht. De aangifte constateert dat de vraag naar deze cruciale compute historisch gezien groter was dan het aanbod—een aanzienlijk risico voor het bedrijf. "Ons vermogen om frontiermodellen te ontwikkelen, te trainen, te verbeteren en in te zetten hangt af van onze toegang tot enorme en toenemende hoeveelheden gespecialiseerde compute", schreef het bedrijf, terwijl het opmerkte dat "de markt voor compute uiterst competitief is".

Het bedrijf heeft toegezegd tussen 542 miljard en 567 miljard dollar te besteden aan toekomstige compute en infrastructuur—hoewel sommige berekeningen op basis van de S-1 op een nog hoger bedrag uitkomen, boven de 750 miljard dollar.

De agentic-aanbod van het bedrijf, dat meerstaps taken zelfstandig uitvoert, is "structureel compute-intensiever" dan andere producten, aldus de aangifte, wat de vraag naar compute kan opdrijven. Tegelijkertijd kan concurrentiedruk van rivalen die de kosten verlagen Anthropic ertoe aanzetten de prijzen van somm van deze producten te verlagen. "Als we geen prijsmodellen kunnen implementeren die de hogere compute-intensiteit van deze agentic-workloads adequaat weerspiegelen, of als concurrentiedynamiek ons vermogen beperkt om deze producten te prijzen op niveaus die hun kosten dekken", waarschuwt het, "kan onze compute-efficiëntie achteruitgaan naarmate het agentic-gebruik groeit, wat ons vermogen om winstgevendheid te bereiken of vast te houden kan schaden." Zodra Anthropic als beursgenoteerd bedrijf rapporteert, zal de balans tussen agentic-prijzen en compute-kosten zichtbaar zijn in de periodieke rapportages.

De prijs van voorzichtigheid—en reputatierisico

In de S-1 suggereert Anthropic dat zijn veiligheidsinzet mogelijk ten koste gaat van de aandeelhouders. Als public benefit corporation moeten de directeuren rendement afwegen tegen de missie, en de aangifte stelt dat beslissingen om "het tempo van AI-ontwikkeling te matigen, de release van modellen of functies uit te stellen of te beperken, of commerciële kansen om veiligheidsredenen op te geven, mogelijk niet de aandeelhouderswaarde maximaliseren".

Het bedrijf heeft al veiligheidsbeslissingen genomen die zijn bedrijf hebben geschaad—zoals het beperken van de toegang tot zijn Mythos-model tot een selecte groep organisaties via Project Glasswing, een maatregel die, zo merkt de aangifte op, de omzet op korte termijn kan hebben geschaad. De S-1 onthult ook dat Anthropic onlangs de training van een AI-model van de volgende generatie meer dan een maand heeft gepauzeerd vanwege veiligheids- en beveiligingszorgen.

Het bedrijf waarschuwt verder dat werknemers die vanwege de veiligheidsinzet zijn gekomen "een daling van het moreel, desillusie, verlies van vertrouwen in het leiderschap of verminderde productiviteit kunnen ervaren" als zij vinden dat het bedrijf niet aan zijn waarden voldoet. Publieke kritiek van huidige of voormalige medewerkers, of het vertrek van mensen die betrokken waren bij het veiligheidswerk, zou het probleem kunnen verergeren en het werven en behouden van talent moeilijker en duurder maken, aldus de aangifte.

De fortuinen van Anthropic zijn ook deels verbonden aan de reputatie van twee cofounders. De aangifte noemt de broer en zus, CEO Dario Amodei en president Daniela Amodei, "cruciaal voor het bepalen van onze strategische richting", en zegt dat hun leiderschap "moeilijk te vervangen zou zijn". Als een van hen "om welke reden dan ook niet beschikbaar zou zijn, of als het skelet van een van hen aanzienlijk geschaad zou worden, ongeacht de verdienste", zouden de gevolgen zich kunnen uitstrekken van het moreel en behoud van werknemers tot het innovatietempo en het vertrouwen van klanten.

Geconcentreerde klantenbasis

Zoals veel AI-concurrenten is Anthropic afhankelijk van een relatief kleine groep grote uitgevers voor een groot deel van de omzet. De top vijf klanten waren goed voor ongeveer 25% van de omzet in de eerste negen maanden van 2026, en één niet bij naam genoemde klant voor 11% van de omzet in de eerste helft.

Bijna de helft van de omzet—48% in de eerste helft—vloeit via de cloudmarketplaces van Amazon, Google en Microsoft, die ook goed waren voor 58% van de netto vorderingen van het bedrijf.

Anthropic schat ook dat 5% tot 7% van zijn omzet in de eerste negen maanden van 2026 afkomstig was van klanten waarvan het later vaststelde dat ze het gebruikbeleid of de commerciële voorwaarden schonden. Het bedrijf zegt dat het probleem in de hele sector voorkomt en verwacht dat het aandeel zal dalen nadat het in augustus en september de handhaving heeft opgevoerd.

De S-1 legt ook de ongebruikelijke bestuursstructuur van Anthropic bloot. De zeven cofounders krijgen een speciale shareklasse uitgegeven met 50,1% van de stemrechten van aandeelhouders, en de bestuursdocumenten bepalen dat de cofounders deze shares als blok stemmen, tenzij ze het niet eens kunnen worden; in dat geval worden hun stemmen verdeeld volgens de verdeling onder de gewone Class A-aandeelhouders. Ondertussen benoemt het onafhankelijke Long-Term Benefit Trust van het bedrijf een meerderheid van de raad van bestuur. De aangifte waarschuwt dat de structuur "het vermogen van houders van onze Class A-aandelen om belangrijke beslissingen te beïnvloeden, waaronder een change of control, in feite kan elimineren".

Update, 26 oktober: Dit verhaal is bijgewerkt met aanvullende informatie over de risico's van misbruik die in de IPO-prospectus van Anthropic worden beschreven. Dit verhaal verscheen oorspronkelijk op Fortune.com.