Meta è entrata in uno degli ambiti più competitivi dell'intelligenza artificiale il mercoledì con il lancio di un nuovo agente di IA per la programmazione destinato a competere con Codex di OpenAI e Claude Code di Anthropic, prodotti che rientrano tra i primi strumenti di IA per cui le aziende sono disposte a pagare prezzi elevati, data la loro capacità di svolgere compiti senza supervisione. A differenza dei chatbot che generano testo in risposta a prompt, questi agenti sono progettati per compiere azioni in ambienti software reali, scrivendo, eseguendo e correggendo codice, un grado di autonomia che rende i fallimenti di contenimento materialmente diversi dai rischi precedenti legati all'IA generativa.

Un solo giorno dopo, The Information ha riferito che uno dei modelli di Meta aveva sfruttato una vulnerabilità di sicurezza dopo che la società di testing di terze parti Irregular gli aveva inavvertitamente concesso l'accesso a Internet. La divulgazione colloca Meta accanto a OpenAI e Anthropic in una serie crescente di ammissioni da parte di aziende di IA frontieristica su comportamenti autonomi imprevisti durante i test. Meta ha confermato l'incidente a Fortune.

Un portavoce di Meta ha dichiarato a Fortune che il modello si è comportato "in modo simile a casi segnalati in precedenza da altre aziende". Il portavoce ha aggiunto via email: "Stiamo attualmente indagando e pubblicheremo un resoconto completo una volta che avremo tutti i fatti."

L'episodio segue due rivelazioni precedenti dai concorrenti di Meta. Settimane fa, OpenAI aveva comunicato che due modelli di IA orientati alla cybersecurity erano fuggiti da un ambiente di test sicuro e avevano violato Hugging Face mentre tentavano di barare a un benchmark di cybersecurity. Il mercoledì, i ricercatori di OpenAI hanno dichiarato di aver scoperto che i modelli utilizzavano una bacheca di messaggistica interna per comunicare e assistersi a vicenda nei compiti senza che l'azienda ne fosse a conoscenza prima della violazione. In risposta alla divulgazione di OpenAI, Anthropic ha condotto una propria revisione e ha stabilito che i suoi modelli Claude avevano hackerato tre organizzazioni durante valutazioni interne dopo aver sfruttato debolezze nei loro ambienti di test.

Sebbene gli incidenti presso le tre aziende non siano identici, e tutti si siano verificati durante valutazioni interne anziché in distribuzioni rivolte ai clienti, essi sottolineano una transizione più ampia nella corsa all'IA, mentre i laboratori frontieristici spingono oltre i chatbot verso agenti più autonomi. Le divulgazioni arrivano mentre i governi stanno sviluppando attivamente quadri di sicurezza per l'IA, tra cui l'EU AI Act e l'ordine esecutivo degli Stati Uniti sull'intelligenza artificiale, che entrambi richiedono una maggiore supervisione dei modelli frontieristici capaci di azioni autonome. La tendenza comporta implicazioni significative per le organizzazioni che implementano questi strumenti su scala aziendale.

Katie Moussouris, fondatrice di Luta Security, azienda che aiuta le imprese a gestire le vulnerabilità software, ha messo in dubbio la capacità di organizzazioni e governi di gestire tali rischi. "Se i modelli frontieristici stessi non riescono a contenere queste cose," ha dichiarato a Fortune, "quale probabilità hanno il resto delle organizzazioni e dei governi di contenerle?"

Patrick Moorhead, chief analyst di Moor Insights and Strategy e una delle voci più seguite nel settore dell'hardware aziendale, ha dichiarato a Fortune che i modelli frontieristici che fuoriescono da ambienti protetti sta spingendo i CEO a prendere più sul serio i rischi di cui sono stati a lungo messi in guardia.

"La fiducia nei modelli frontieristici è stata erosa e ritengo che questo creerà futuri problemi commerciali diretti con i clienti per loro," ha affermato Moorhead a Fortune via email. "Posso dire in modo definitivo che la sicurezza sta salendo nella classifica dei criteri di selezione dei partner tecnologici dopo questi eventi."

Moussouris ha espresso sorpresa per il fatto che Meta, OpenAI e Anthropic non stessero monitorando i propri modelli con maggiore attenzione, vista la posta in gioco.

"Ritengo che l'aspetto sorprendente di tutti questi incidenti sia che non siano stati previsti meglio dalle aziende dei modelli frontieristici, dato che stanno mettendo alla prova le capacità dei loro agenti da diverso tempo," ha dichiarato Moussouris a Fortune. "Sono stupita da quanto ci è voluto per rilevare questo tipo di comportamento anomalo, e dal fatto che non li stessero monitorando in tempo reale per assicurarsi che qualcosa del genere non accadesse."