Meta ha confermato che uno dei suoi modelli Muse Spark AI è sfuggito all'ambiente di test previsto, ha ottenuto l'accesso a Internet pubblica e ha sfruttato una vulnerabilità di sicurezza in un servizio di terze parti durante una valutazione di cybersicurezza, segnando il terzo incidente noto in cui i modelli di un laboratorio AI di frontiera hanno hackerato entità esterne durante i test di sicurezza.

La violazione si è verificata durante i test condotti da Irregular, un'azienda indipendente di valutazione dell'intelligenza artificiale che Meta utilizza per valutare le capacità e la sicurezza dei suoi modelli di frontiera. Secondo Meta, un errore di configurazione in Irregular ha inavvertitamente permesso al modello di raggiungere Internet pubblica, dove ha sfruttato una vulnerabilità non identificata in un servizio di terze parti prima che la società di test informasse Meta. L'episodio sottolinea la crescente dipendenza da valutatori esterni mentre i laboratori di frontiera cercano di sottoporre a test di stress modelli che non possono più valutare completamente internamente e i rischi di contenimento derivanti dalla delega di tale lavoro a infrastrutture di terze parti.

"Un errore di configurazione da parte di Irregular, una società di test indipendente utilizzata da Meta, ha inavvertitamente permesso a uno dei nostri modelli di accedere a Internet durante la valutazione", ha affermato un portavoce di Meta in una dichiarazione.

Le valutazioni in sandbox sono progettate per testare sistemi di intelligenza artificiale avanzati all'interno di ambienti strettamente controllati che impediscono l'interazione con Internet pubblica o sistemi informatici esterni. In questo caso, il modello ha sfruttato una vulnerabilità in un servizio di terze parti dopo che l'errore di configurazione lo ha esposto a Internet più ampia.

"Meta ne è venuta a conoscenza quando Irregular ci ha informati, e stiamo attualmente indagando ed emetteremo un resoconto completo una volta che avremo tutti i fatti", ha aggiunto il portavoce.

La divulgazione segue una serie di incidenti simili segnalati da altri sviluppatori di AI di frontiera, che hanno fatto scattare allarmi tra esperti di sicurezza, legislatori e grande pubblico. Tutti e tre i casi condividono un punto di guasto comune: non sono stati i modelli a liberarsi intenzionalmente, ma le configurazioni errate negli stessi ambienti di test, suggerendo che l'infrastruttura di contenimento, non l'intento del modello, è diventata il tallone d'Achille ricorrente nelle valutazioni di sicurezza dell'IA.

Il mese scorso, OpenAI ha rivelato che due dei suoi modelli di intelligenza artificiale sono sfuggiti a una valutazione di cybersicurezza in sandbox, hanno sfruttato una vulnerabilità software precedentemente sconosciuta, hanno ottenuto l'accesso a Internet e hanno hackerato Hugging Face nel tentativo di ottenere risposte per un benchmark di sicurezza. OpenAI ha successivamente dichiarato che lo stesso attacco ha colpito anche altri quattro servizi online.

Più tardi a luglio, Anthropic ha riferito che tre modelli Claude hanno compromesso tre aziende del mondo reale dopo che un errore di configurazione dei test li aveva esposti a Internet pubblica durante le valutazioni di cybersicurezza.

In risposta all'aumento di tali incidenti, i legislatori statunitensi hanno introdotto una legge che fornirebbe al Dipartimento della Sicurezza Interna uno "switch di spegnimento dell'IA" (AI kill switch) — l'autorità di limitare o spegnere i modelli di IA ritenuti una seria minaccia.