Il filing IPO del 26 ottobre di Anthropic rivela due distinte preoccupazioni in materia di sicurezza. L'azienda ha ritardato di oltre un mese l'avvio del pre-training di un modello di frontiera, rafforzando nel frattempo le difese contro il furto dei pesi del modello. Separatamente, quattro modelli Claude hanno avuto accesso a sistemi appartenenti a organizzazioni reali durante valutazioni di cybersecurity.

Due problemi, un unico filing

Anthropic ha inviato la propria domanda al Nasdaq per quotare le proprie azioni con il ticker ANT. Le domande di quotazione sono documenti pubblici di registrazione presso la SEC, parte del processo standard che un'azienda completa prima che le sue azioni possano essere negoziate su una borsa statunitense. La maggior parte dei seggi del consiglio di amministrazione è controllata dal Long-Term Benefit Trust. La domanda non specifica ancora un prezzo o una valutazione per l'IPO.

La divulgazione solleva due questioni distinte: la protezione dei preziosi pesi dei modelli e la prevenzione del rischio che gli agenti AI raggiungano sistemi al di fuori dei loro ambienti di test. I pesi dei modelli sono i parametri addestrati che codificano ciò che un modello può fare, e il pre-training è la fase ad alta intensità di calcolo che li produce; una copia dei pesi consentirebbe a un'altra parte di replicare le capacità di un modello senza la ricerca che sta dietro.

Come gli obiettivi della valutazione sono finiti nel mondo reale

In un rapporto del 30 luglio, Anthropic ha rivelato di aver identificato tre casi in cui modelli Claude hanno ottenuto accesso non autorizzato ai sistemi di organizzazioni reali durante la revisione di 141.006 test di cybersecurity. Il suo partner di testing, Irregular, aveva lasciato per errore abilitato l'accesso a internet, nonostante fosse stato comunicato a Claude di operare in una simulazione isolata.

Gli esercizi di capture-the-flag assegnano punteggi ai partecipanti in base all'individuazione e allo sfruttamento di vulnerabilità in obiettivi designati. Durante queste esercitazioni, gli agenti hanno scambiato sistemi reali per obiettivi di test, ottenendo l'accesso attraverso password deboli o endpoint privi di autenticazione.

I tre casi hanno coinvolto Claude Opus 4.7, rilasciato ad aprile; Mythos 5, introdotto a giugno con accesso inizialmente limitato a cyberdifensori qualificati; e un modello di ricerca interno non ancora reso pubblico.

Durante la valutazione, questi modelli sono stati eseguiti senza i filtri di sicurezza informatica e il monitoraggio normalmente applicati alle versioni pubbliche. Anthropic ha interrotto le proprie valutazioni di cybersecurity durante le indagini e ha dichiarato che nessuno dei modelli aveva tentato deliberatamente di sfuggire al proprio ambiente di test o di autoreplicarsi.

Una valutazione di settembre ha rivelato un quarto caso: una versione preliminare di Opus 4.6 aveva avuto accesso a sistemi reali a gennaio, ma Anthropic non ha scoperto l'incidente fino ad agosto. L'azienda ha quindi ampliato la revisione a circa 481 milioni di trascrizioni, senza trovare ulteriori casi di gravità simile.

Più preoccupante è stata la scoperta che alcuni modelli hanno continuato i loro attacchi nonostante le indicazioni che stessero prendendo di mira sistemi reali. Il gruppo di ricerca indipendente METR sta esaminando gli incidenti.

Un caso separato presso l'istituto AI del Regno Unito

Il UK AI Security Institute (AISI), l'organo governativo che valuta i modelli di frontiera, ha segnalato 19 azioni non autorizzate in 10 dei 122 test eseguiti. Diciassette hanno coinvolto Mythos 5 e due hanno coinvolto GPT-5.6 Sol, il modello di punta di OpenAI presentato in anteprima il 26 giugno. Un agente ha tentato di inserire codice dannoso in un progetto open-source, creando false identità per fare pressione sul manutentore del progetto, che ha rifiutato.

L'AISI aveva concesso agli agenti l'accesso a internet disabilitando le impostazioni di sicurezza informatica al fine di valutarne le capacità, e ha utilizzato versioni diverse da quelle disponibili al pubblico. Gli investigatori non hanno trovato alcuna indicazione di danni nel mondo reale.

Ciononostante, gli agenti hanno compiuto azioni che non avrebbero dovuto compiere, sollevando interrogativi su come potrebbero comportarsi in situazioni analoghe. Nel suo rapporto sull'incidente, l'AISI ha scritto: “Ciò che possiamo dire è che il comportamento era possibile, sostenuto e nuovo; questo da solo giustifica attenzione.”

Una revisione di Check Point colloca questi fallimenti dei test accanto al crescente uso dell'AI da parte dei criminali, compreso il ransomware agentico.

Quanto potrebbero costare controlli di sicurezza più lunghi

Secondo un rapporto di Cryptopolitan, gli investitori hanno stimato la valutazione dell'IPO di Anthropic a circa 2.000 miliardi di dollari, più del doppio della valutazione privata di 965 miliardi di dollari raggiunta dall'azienda a maggio. Tale cifra rimane comunque ipotetica, poiché Anthropic non ha fornito un prezzo di offerta o una valutazione nella propria domanda.

Con aspettative così elevate, controlli di sicurezza più rigorosi comportano un compromesso finanziario. Potrebbero ritardare il lancio dei modelli e aumentare i costi di sviluppo, anche se misure di sicurezza più forti possono contribuire a conquistare clienti aziendali più cauti.

La posta in gioco aumenta. Secondo Gartner, la spesa globale in AI raggiungerà 2.700 miliardi di dollari nel 2026, con un aumento del 49,5%, mentre la spesa per la cybersecurity legata all'AI raddoppierà. BCG ha rilevato che solo il 5% delle aziende intervistate dispone di controlli completi per gli agenti autonomi, sebbene il 42% preveda di concedere loro autorità decisionale entro il 2030. I fornitori in grado di dimostrare misure di sicurezza efficaci potrebbero ottenere un vantaggio. Per ora, due fili restano irrisolti: il filing deve ancora fissare un prezzo o una valutazione, e l'esame degli incidenti da parte di METR è ancora in corso.