De geplande beursgang van Anthropic vestigt de aandacht op een ongebruikelijke uitdaging voor beleggers: hoe mogelijke aansprakelijkheden voortvloeiend uit geavanceerde AI-systemen moeten worden afgewogen. Volgens de Markets Daily-nieuwsbrief van Bloomberg van 9 oktober streeft het bedrijf ernaar om begin half november naar de beurs te gaan.

Anthropic, de ontwikkelaar van de Claude-chatbot opgericht door voormalige OpenAI-onderzoekers, behoort tot de meest vooraanstaande bedrijven in het veld. Beursintroducties vereisen doorgaans dat bedrijven materiële risico's voor potentiële beleggers uiteenzetten in hun openbaarmakingsdocumenten, en het rapport van Bloomberg benadrukt beperkte juridische precedenten voor schade veroorzaakt door autonome AI-systemen en onzekerheid over hoe dergelijke risico's gekwantificeerd zouden kunnen worden in beursprospectussen. Voor een bedrijf in het middelpunt van het geavanceerde-AI-veld laat dit de open vraag of maatschappijschaal-AI-gevaren thuishoren in een standaard risico-openbaarmaking.

CEO Dario Amodei heeft gewaarschuwd voor het verlies van menselijke controle over AI en het potentieel dat de technologie wordt misbruikt voor cyberaanvallen of bioterrorisme. Sommige onderzoekers schatten de kans op uitsterving veroorzaakt door AI op 10% of meer, schattingen die nog steeds ter discussie staan — en dat gebrek aan consensus is mede de reden waarom het kwantificeren van dergelijke risico's in beursprospectussen onzeker is.

Tot degenen die de financiële dimensie van dergelijke risico's afwegen, behoort Sam Lessin, partner bij Slow Ventures. Hij stelde voor om AI-laboratoria te verplichten $1 biljoen (1 trillion) aan contanten in escrow te plaatsen om mogelijke toekomstige schade te dekken, met het argument dat potentiële maatschappelijke aanselijkheden kunnen oplopen tot $2 tot $4 biljoen (2 tot 4 trillion), nog voordat uitstervingsscenario's worden meegewogen. Het voorstel onderstreept hoe weinig gevestigde benchmarks er bestaan om dit soort potentiële aansprakelijkheden uit te drukken in conventionele openbaarmakingstermen.

Lessins voorstel vertegenwoordigt een aanbeveling van een belegger, geen overheidsvereiste. De nieuwsbrief van Bloomberg beschreef geen definitieve Anthropic-openbaarmaking die die aansprakelijkheden kwantificeert. Nu het bedrijf een beursgang begin half november nastreeft, zullen de openbaarmakingsdocumenten die vóór de introductie worden ingediend, laten zien hoe — of of überhaupt — Anthropic deze vragen behandelt voor beleggers op de publieke markt.