Il controllore della città di New York Mark Levine ha sollecitato Anthropic a sospendere la quotazione pubblica pianificata finché l'azienda non affronti le preoccupazioni su sicurezza dell'intelligenza artificiale, governance e ritmo di sviluppo dell'IA.

In una lettera ad Anthropic al CEO Dario Amodei pubblicata il 14 ottobre, Levine ha sostenuto che l'azienda non può mettere in guardia il pubblico sui pericoli dell'IA mentre corre contemporaneamente verso i mercati pubblici. La richiesta arriva mentre Anthropic punta a una valutazione vicina a 2 trilioni di dollari.

"Scrivo per sollecitare Anthropic a sospendere la sua offerta pubblica iniziale (IPO) pianificata finché l'azienda non affronti pienamente e in modo trasparente le preoccupazioni su sicurezza, governance e ritmo di sviluppo dell'intelligenza artificiale (IA) che essa stessa ha sollevato", ha scritto Levine.

Levine cita l'appello di Amodei a rallentare lo sviluppo dell'IA

L'argomentazione di Levine si basa in parte sul saggio di Amodei "We Must Pace the Frontier", pubblicato il 12 settembre. Nel saggio, Amodei ha scritto: "Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA".

Amodei ha detto che l'auto-miglioramento ricorsivo e un incidente di sicurezza trasversale al settore lo avevano convinto che l'industria dell'IA necessitasse di maggiore prudenza, anziché semplicemente di una maggiore spesa per la sicurezza.

Il saggio proponeva un piano in tre fasi. La prima prevederebbe di dare a valutatori terzi un accesso simile a quello dei dipendenti per verificare le pratiche di sicurezza delle aziende. Anthropic ha dichiarato di essersi già impegnata autonomamente su tale misura. La seconda fase chiedeva il coordinamento tra le aziende di IA dei paesi democratici, mentre la terza auspicava un coordinamento globale, incluso con i governi autoritari.

Secondo Levine, l'IPO di Anthropic potrebbe interferire con il lavoro che Amodei ha descritto come urgente. Il saggio ha ricevuto sostegno da parte dell'industria dell'IA, con il CEO di OpenAI Sam Altman e il CEO di xAI Elon Musk che ne hanno condiviso le proposte.

Levine è inoltre direttamente collegato agli interessi di investimento della città di New York. In qualità di controllore, ricopre i ruoli di consulente per gli investimenti, depositario e fiduciario dei fondi pensione cittadini, che detengono oltre 325 miliardi di dollari inivi. L'ufficio del controllore ha dichiarato che i fondi pensione pubblici hanno un'esposizione di circa 7 milioni di dollari ad Anthropic tramite private equity.

Sebbene tale partecipazione sia relativamente piccola, Levine ha detto che offre al suo ufficio una base per fare pressione su Anthropic prima che l'azienda diventi quotata in borsa.

Preoccupazioni sulla struttura di governance di Anthropic

Levine ha anche sollevato preoccupazioni sulla struttura societaria di Anthropic. L'azienda è una public benefit corporation del Delaware con un Long-Term Benefit Trust. Una public benefit corporation è una struttura a scopo di lucro che richiede agli amministratori di bilanciare i rendimenti per gli azionisti con uno scopo dichiarato di beneficio pubblico, mentre un trust di questo tipo è concepito per dare a un organo di governance indipendente un ruolo nella salvaguardia della missione a lungo termine dell'azienda. Secondo Levine, le segnalazioni indicano che la struttura potrebbe concentrare il controllo nelle mani di fondatori e fiduciari.

Ha sostenuto che un divario tra tale controllo e la responsabilità verso gli azionisti sarebbe difficile da accettare dato i rischi che Anthropic ha già reso noti.

Levine ha inoltre criticato un recente accordo tra l'industria dell'IA e il governo statunitense. Anthropic e altre cinque aziende hanno firmato quello che la lettera descrive come un accordo vincolante sul piano morale con la Casa Bianca. Levine ha detto che l'accordo "è insufficiente per affrontare il momento".

Le stesse dichiarazioni di Anthropic hanno rafforzato le sue preoccupazioni. Nel progetto confidenziale di S-1, l'azienda ha avvertito che l'IA avanzata potrebbe comportare "rischi catastrofici o esistenziali per l'umanità". La sezione sui fattori di rischio, secondo quanto riportato, si estende per circa 80 pagine, quasi il doppio della sezione che descrive l'attività.

Levine ha osservato che il saggio di Amodei è stato pubblicato dopo che Jacob Coxon, ex ricercatore di Anthropic, si è dimesso il 9 settembre. Coxon ha citato preoccupazioni esistenziali come motivo delle sue dimissioni e ha detto che gli addetti ai lavori ritenevano che l'IA potesse annientare l'umanità entro la fine del decennio se lo sviluppo fosse continuato al ritmo attuale.

Evan Hubinger, responsabile della scienza dell'allineamento di Anthropic, ha stimato in oltre il 10% la probabilità che l'IA uccida tutti gli esseri umani entro il decennio.

Anthropic riporta una rapida crescita dei ricavi

Il dibattito su sicurezza e governance di Anthropic si sviluppa mentre l'azienda si prepara a una potenziale quotazione che potrebbe valutarla oltre 2 trilioni di dollari.

In un incontro privato pre-IPO a San Francisco mercoledì 14 ottobre, Anthropic ha comunicato agli investitori che i ricavi del terzo trimestre hanno raggiunto circa 16,8 miliardi di dollari, un aumento del 45% rispetto al trimestre precedente. L'azienda ha anche dichiarato di aver generato un profitto rettificato.

Anthropic ha riportato ricavi di 4,7 miliardi di dollari nel primo trimestre dell'anno. Tale cifra è aumentata notevolmente nel secondo trimestre, quando i ricavi hanno raggiunto circa 11,6 miliardi di dollari. Nonostante la crescita, l'azienda ha comunque registrato una perdita operativa di oltre 8 miliardi di dollari nel periodo.

Anthropic ha inoltre comunicato agli investitori di essere con flussi di cassa positivi al termine del terzo trimestre, un'affermazione insolita in un settore le cui aziende leader hanno continuato a spendere ingenti somme in infrastrutture e calcolo.

L'azienda ha attualmente oltre 518 miliardi di dollari in impegni pianificati per infrastrutture e calcolo nel prossimo decennio. Tali impegni fanno parte del caso per una quotazione che potrebbe superare i 2 trilioni dollari e potenzialmente portare Anthropic sui mercati pubblici prima della rivale OpenAI, che punta a un debutto all'inizio del 2027.

Anthropic ha depositato confidenzialmente il progetto di S-1 presso la Securities and Exchange Commission il 1° giugno. Un progetto di S-1 confidenziale consente al personale della SEC di esaminare il documento di registrazione di un'azienda prima che venga reso pubblico, mentre un deposito pubblico è necessario prima che le azioni possano essere offerte a investitori esterni.

Anthropic non ha comunicato una data esatta per l'IPO. Gli osservatori hanno ipotizzato che l'offerta potrebbe avvenire dopo le elezioni di metà mandato di novembre negli Stati Uniti, sebbene ci si aspetti ancora che l'azienda si quoti prima di OpenAI. La risposta di Anthropic alla lettera di Levine e i tempi del passaggio a un deposito pubblico della S-1 sono ora tra i punti chiave da seguire con l'avanzare del processo di quotazione.