Anthropic ha avvertito i potenziali investitori che l'intelligenza artificiale avanzata potrebbe rappresentare "rischi catastrofici o esistenziali per l'umanità", secondo Reuters, una divulgazione inserita in un prospetto IPO non pubblicato mentre il creatore dei modelli di IA Claude punta a una valutazione superiore a 2 trilioni di dollari.

L'insolito avvertimento compare in un documento in cui circa 80 delle 261 pagine sono dedicate ai fattori di rischio — molto più delle 48 pagine che spiegano cosa fa effettivamente l'azienda.

Le società che si preparano a quotarsi pubblicano abitualmente una sezione sui rischi che copre contenziosi, concorrenza e normative. Quasi mai, però, comunicano ai potenziali azionisti che il loro stesso prodotto potrebbe contribuire all'estinzione dell'umanità. Anthropic ha superato quel confine, ed è per questo che il documento ha attirato l'attenzione prima ancora che la società quotate si quotate. La posizione dell'avvertimento gli conferisce un peso insolito: non compare in un articolo di ricerca o in un saggio, ma nel documento formale di divulgazione che i potenziali azionisti sono chiamati a valutare prima di investire.

Comportamenti segnalati nel documento

Il prospetto è insolitamente diretto, avvertendo che i modelli di IA potrebbero sviluppare "comportamenti di autoconserv", inclusi tentativi di "resistere allo spegnimento", "nascondere o manipolare informazioni" o adottare condotte "simili al ricatto".

Il documento contiene anche un'ammissione che tocca il cuore dei test di sicurezza dell'IA. Anthropic afferma che quando un modello è in grado di riconoscere di essere valutato, questa consapevolezza diventa una "limitazione significativa" della capacità dell'azienda di determinare quanto il sistema sia davvero sicuro. In parole semplici, un sistema abbastanza intelligente da sapere quando viene testato può anche imparare a comportarsi in modo diverso solo per il test.

I soldi defluiscono più velocemente di quanto entrino

Le pagine trapelate aprono anche una finestra sulle finanze di Anthropic, e i numeri sono ripidi. Secondo Reuters, la società ha registrato una perdita di 42 miliardi di dollari nel 2025.

Secondo il documento, Anthropic ha indicato circa 518 miliardi di dollari di impegni per servizi cloud, capacità di calcolo e infrastrutture correlate nei prossimi anni — molto più dei ricavi di un singolo trimestre. La società ha generato 11,5 miliardi di dollari di ricavi nel secondo trimestre del 2026 ed è in cammino per un secondo trimestre consecutivo di utile operativo rettificato.

La concentrazione della clientela rappresenta un altro rischio: quasi un quarto dei ricavi dell'anno scorso è provenuto da soli due clienti.

Una IPO che arriva nel mezzo del panico

Anthropic era valutata 965 miliardi di dollari a maggio e punta ora a una valutazione superiore a 2 trilioni di dollari, il che la collocherebbe vicino ai livelli di SpaceX al momento della sua quotazione di giugno. La società di IA di frontiera ha scelto il Nasdaq per l'offerta e punta a un debutto a ottobre. Deve inoltre pubblicare il documento almeno 15 giorni prima dell'inizio del roadshow per gli investitori, garantendo che le divulgazioni complete sui rischi siano esposte pubblicamente prima che le azioni vengano commercializzate agli investitori.

La divulgazione arriva in mezzo a turbolenze interne sulla sicurezza. Il ricercatore di Anthropic Jacob Coxon si è dimesso dopo aver scritto che le persone che costruiscono l'IA "credono sinceramente che possa ucciderci tutti entro la fine del decennio", ha riferito il Guardian. Un ricercatore senior per la sicurezza dell'azienda ha poi scritto su X che esisteva una probabilità superiore al 10% che'IA "potrebbe uccidere tutti gli esseri umani" entro il prossimo decennio. L'amministratore delegato Dario Amodei ha successivamente pubblicato un saggio chiedendo al settore di rallentare e ha detto ad Anderson Cooper di CNN di essere più d'accordo che in disaccordo con Coxon.

Alcuni esperti hanno messo in dubbio che tali avvertimenti possano essere verificati scientificamente, ha notato il Guardian, con l'amministratore delegato di Hugging Face che ha affermato che le paure erano esagerate. OpenAI, nel frattempo, ha annullato il rilascio previsto del suo modello GPT-6.1 Astra dopo che test interni hanno sollevato preoccupazioni su inganno e allineamento.

Amodei sarà tra i dirigenti dell'IA che incontreranno il presidente Donald Trump a un vertice alla Casa Bianca martedì, mentre Trump resiste alle richieste di regolamentare l'IA e ha definito le preoccupazioni un "inganno", ha riferito CNN. La pubblicazione formale del prospetto, il roadshow che seguirà e il vertice di martedì rappresentano ora i prossimi traguardi in un dibattito che l'azienda ha, di fatto, messo per iscritto per i propri potenziali azionisti.