Anthropic is in contact getreden met de New Yorkse comptroller Mark Levine, nadat de stadsofficier publiek had opgeroepen het geplande beursgang van het AI-bedrijf uit te stellen vanwege zorgen over veiligheid en bestuur. Het initiatief onderstreept hoe vragen die voorheen beperkt bleven tot AI-onderzoeks labs en beleidskringen nu worden aangedragen door publieke functionarissen wier pensioengelden uiteindelijk in het bedrijf zouden kunnen worden belegd.

Levine bevestigde vrijdag in een uitzending op Bloomberg Television dat de gesprekken tussen zijn kantoor en het AI-bedrijf waren gestart, hoewel hij geen details wilde geven over de aard ervan. "Het lijkt er inderdaad op dat ze op dit moment van meerdere kanten onder druk staan," zei Levine.

De ontwikkeling valt samen met de voorbereidingen van Anthropic voor een mogelijke beursnotering in november, die een van de grootste beursgangen uit de geschiedenis zou kunnen worden, waarbij beleggers volgens berichten waarderingen bespreken tussen $1,5 biljoen en2 biljoen.

NYC-comptroller waarschuwt voor risico's op AI-gebied

In een brief gericht aan Anthropic-CEO Dario Amodei op woensdag riep Levine het bedrijf op de IPO uit te stellen tot het de zorgen rond AI-veiligheid, bestuur en de opmars van steeds autonomere systemen naar behoren heeft aangepakt.

Levine vroeg zich ook af of een recente vrijwillige veiligheidsovereenkomst tussen de regering-Trump en grote AI-bedrijven, waaronder Anthropic, voldoende waarborgen biedt tegen de risico's van steeds capabelere systemen — een twijfel die de kern vormt van een breder debat over of vrijwillige toezeggingen voldoende zijn om gelijke tred te houden met de snelle vooruitgang van de technologie.

"Als ze naar de beurs gaan en er doet zich een catastrofaal veiligheidsincident voor, ver voorbij wat we tot nu toe hebben gezien, dan zou dat verschrikkelijk zijn voor hun aandeel," vertelde Levine aan Bloomberg.

Als comptroller houdt Levine toezicht op de pubke pensioenfondsen van New York, die gezamenlijk meer dan $325 miljard aan activa beheren. Sommige van deze fondsen houden beleggingen aan die belangrijke aandelenindices volgen, wat hun blootstelling aan Anthropic mogelijk kan vergroten zodra het bedrijf zijn beursdebuut voltooit. Omdat indexfondsen hun benchmarks automatisch repliceren, zouden de aandelen van het bedrijf in die portefeuilles terechtkomen zodra het in de grote indices wordt opgenomen.

Levine betoogde dat het uitstellen van de notering Anthropic meer tijd zou geven om een bestuurskader op te zetten dat in staat is de risico's aan te pakken die onderzoekers binnen het bedrijf zelf al hebben geïdentificeerd.

Anthropic bereidt zich voor op IPO in november te midden van waarderingszorgen

De gesprekken beginnen terwijl Anthropic de voorbereidingen voor zijn beursdebuut voortzet. Tijdens een bijeenkomst met geselecteerde beleggers op woensdag maakte het bedrijf bekend dat zijn omzet in het derde kwartaal $16,8 miljard bereikte, een stijging van 45% ten opzichte van het vorige kwartaal.

Sommige potentiële beleggers hebben volgens berichten echter een waardering dichter bij $1,5 biljoen besproken, onder de eerdere verwachtingen van ongeveer $2 biljoen, vanwege zorgen over de kosten van AI-ontwikkeling. De kloof vat de spanning in het hart van de notering samen: snelle omzetgroei tegenover de hoge kosten van het ontwikkelen van grensverleggende AI-systemen.

Ondertussen heeft Amodei publiek erkend dat er gevaren verbonden zijn aan steeds capabelere AI-systemen. In een essay dat vorige maand werd gepubliceerd, riep hij op tot grotere samenwerking tussen overheden en AI-ontwikkelaars om risico's aan te pakken, waaronder verlies van controle, economische verstoring, cyberaanvallen en terrorisme — waarschuwingen die sterk overeenkomen met de zorgen die Levine naar voren bracht bij zijn pleidooi voor uitstel.

Hoewel Levine erkende dat het uitstellen van de IPO marktonzekerheid kan creëren, hield hij vol dat de mogelijke gevolgen van een catastrofaal veiligheidsincident na de notering extra voorzichtigheid rechtvaardigden.

"Ik maak me zorgen dat we naar de beurs gaan en dat er dan een incident plaatsvindt," zei hij.

Nu een mogelijke debuut in november nadert en de waarderingsgesprekken nog gaande zijn, zal de manier waarop het bedrijf de veiligheids- en bestuursvragen uit de brief aanpakt waarschijnlijk in de aanloop naar de notering in de aandacht blijven staan.