La prevista offerta pubblica iniziale di Anthropic attira l'attenzione su una sfida insolita per gli investitori: come valutare le potenziali responsabilità derivanti dai sistemi di IA avanzata. Secondo la newsletter Markets Daily di Bloomberg dell'9 ottobre, la società punta a quotarsi entro metà novembre al più presto.

Anthropic, sviluppatrice del chatbot Claude fondata da ex ricercatori di OpenAI, è tra le aziende più prominenti del settore. Le quotazioni pubbliche richiedono tradizionalmente alle società di indicare nei documenti informativi i rischi materiali per i potenziali investitori, e il rapporto di Bloomberg evidenzia il limitato precedente legale per i danni causati dai sistemi di IA autonomi e l'incertezza su come tali rischi possano essere quantificati nelle informative di IPO. Per un'azienda al centro del campo dell'IA avanzata, ciò lascia aperta la questione di dove collocare i rischi dell'IA su scala sociale in un'informativa standard sui rischi.

L'amministratore delegato Dario Amodei ha messo in guardia sulla perdita del controllo umano sull'IA e sul potenziale uso improprio della tecnologia per attacchi informatici o bioterrorismo. Alcuni ricercatori assegnano all'estinzione causata dall'IA probabilità pari al 10% o più, stime ancora oggetto di dibattito — e tale assenza di consenso è parte di ciò che rende incerta la quantificazione di tali rischi nelle informative di IPO.

Tra coloro che valutano la dimensione finanziaria di tali rischi vi è Sam Lessin, partner di Slow Ventures. Ha proposto di obbligare i laboratori di IA a depositare in escrow 1.000 miliardi di dollari in contanti per coprire eventuali danni futuri, sostenendo che le potenziali responsabilità sociali potrebbero raggiungere i 2.000-4.000 miliardi di dollari, ancora prima di considerare gli scenari di estinzione. La proposta sottolinea quanto pochi parametri consolidati esistano per esprimere questo tipo di potenziale responsabilità nei termini convenzionali delle informative.

La proposta di Lessin rappresenta una raccomandazione di un investitore, non un requisito governativo. La newsletter di Bloomberg non ha descritto un'informativa definitiva di Anthropic che quantifichi tali responsabilità. Con la società che punta a una quotazione entro metà novembre al più presto, i documenti informativi depositati prima del debutto mostreranno come — o se — Anthropic affronterà queste questioni per gli investitori dei mercati pubblici.