Anthropic ha annunciato giovedì che tre dei suoi modelli di intelligenza artificiale hanno raggiunto l'internet aperta durante test di cybersecurity e hanno ottenuto accesso non autorizzato ai sistemi di tre organizzazioni reali.

La divulgazione segue l'annuncio di OpenAI di inizio mese, secondo cui uno dei suoi modelli AI avanzati ha violato i sistemi della azienda AI Hugging Face durante test interni, sollevando nuove questioni sulle misure di sicurezza relative a sistemi AI sempre più autonomi. Le divulgazioni consecutive da parte di due dei principali laboratori AI statunitensi hanno intensificato lo scrutinio su come le aziende valutino i modelli di frontiera in relazione a capacità pericolose prima dell'implementazione.

"Abbiamo riscontrato tre incidenti in cui un modello Claude ha raggiunto internet dall'interno o durante l'interazione con un ambiente di valutazione di terze parti, per poi ottenere accesso non autorizzato ai sistemi reali di tre organizzazioni diverse," ha dichiarato Anthropic in un comunicato stampa.

Anthropic ha dichiarato di aver esaminato più di 140.000 esecuzioni di valutazione di cybersecurity in seguito alla divulgazione di OpenAI e di aver identificato tre incidenti involving diversi modelli Claude. L'azienda ha attribuito tutti e tre gli incidenti a un errore di configurazione durante i test interni che ha inavvertitamente fornito ai modelli l'accesso all'internet aperta.

Secondo Anthropic, a Claude era stato comunicato di operare all'interno di una simulazione chiusa senza accesso a internet, il che lo ha portato a scambiare erroneamente i sistemi di organizzazioni reali per parte di un esercitazione fittizia di "capture-the-flag" di cybersecurity — un formato di addestramento comune in cui i partecipanti tentano di individuare flag digitali nascoste sfruttando vulnerabilità nei sistemi bersaglio.

Gli incidenti hanno coinvolto tre diversi modelli Claude — tra cui Opus 4.7, Mythos 5 e un modello di test di ricerca interno — e si sono tutti verificati durante test interni anziché sui sistemi dei clienti, ha dichiarato Anthropic. Il primo incidente risale ad aprile.

"Claude credeva che tutto ciò che incontrava inizialmente fosse parte della simulazione e trattava i sistemi reali che trovava come elementi dell'esercitazione," ha dichiarato Anthropic.

"In nessuna di queste situazioni Claude si è esfiltrato o ha tentato deliberatamente di sfuggire al proprio ambiente di test," ha aggiunto l'azienda.

Anthropic ha sottolineato che gli incidenti evidenziano la necessità di misure di sicurezza più rigorose attorno agli ambienti di test per l'AI.

"Gli ambienti di valutazione che coinvolgono potenti capacità autonome richiedono anche controlli significativi," ha dichiarato l'azienda. "Incoraggiamo altri laboratori AI a effettuare revisioni simili."

Il presidente Donald Trump ha dichiarato mercoledì che la sua amministrazione sta valutando ulteriori misure di sicurezza per l'intelligenza artificiale in seguito ai recenti incidenti di cybersecurity. Trump ha affermato che gli Stati Uniti devono trovare un equilibrio tra la protezione dai rischi dell'AI e il mantenimento del proprio vantaggio tecnologico sulla Cina.

"Stiamo esaminando l'AI, stiamo valutando i controlli," ha detto Trump.

"Chiunque vinca con l'AI vincerà," ha aggiunto. "È così grande. È più grande di quanto sia mai stato internet. È più grande di qualsiasi cosa sia mai esistita. Quindi non voglio imporre restrizioni. Conosco molte di queste persone. Non voglio impedire loro di fare un ottimo lavoro."

La divulgazione è arrivata un giorno dopo che l'amministratore delegato di OpenAI Sam Altman ha riconosciuto le crescenti preoccupazioni pubbliche sull'intelligenza artificiale in seguito all'incidente di cybersecurity della propria azienda.

"Penso sia molto naturale avere paura dopo ogni nuovo livello di capacità," ha detto Altman a FOX Business. "Ovviamente stiamo prendendo la cosa estremamente sul serio e continueremo a farlo, ma direi che capisco, lo comprendo. Molto dell'AI è andato molto bene e questo è un momento in cui le persone dicono: 'Ok, siamo a un nuovo livello.'"

Quando gli è stato chiesto se i modelli di OpenAI potessero aver violato i sistemi di altre aziende, Altman ha risposto: "Potrebbe esserci, sì."