Il CEO di Meta Mark Zuckerberg ha respinto le richieste di un rallentamento coordinato dello sviluppo dell'intelligenza artificiale, sostenendo che i lab di IA possono implementare misure di sicurezza in autonomia—e hanno motivi commerciali per farlo—senza attendere l'azione dei concorrenti.

In un post su X di martedì, Zuckerberg ha scritto che gli utenti desiderano un'IA di cui possano fidarsi e che le aziende affrontano potenziali responsabilità legali quando i loro sistemi causano danni. Ha indicato la decisione di Meta di ritardare di diversi mesi il modello Muse come esempio di un lab che agisce senza attendere gli altri.

"I lab affrontano significative responsabilità legali se i loro modelli causano danni, quindi hanno anche un forte incentivo a prevenirli", ha scritto. "Meta ha ritardato il lancio di Muse per diversi mesi per concentrarsi sulla sicurezza. Non abbiamo chiesto a tutti gli altri di farlo prima di farlo noi."

"Ogni lab ha la responsabilità e l'incentivo di procedere al ritmo necessario per addestrare i propri modelli in sicurezza, e la capacità di compiere le proprie azioni per garantire che ciò avvenga", ha aggiunto Zuckerberg.

Le sue dichiarazioni sono seguite alle richieste del CEO di Anthropic Dario Amodei di rallentare i progressi delle capacità dell'IA, una posizione che ha ricevuto il sostegno del CEO di OpenAI Sam Altman e di Elon Musk. Zuckerberg non ha citato nessuno di loro nel suo post. Lo scambio sintetizza il disaccordo al centro del dibattito: se la sicurezza debba avanzare attraverso pause coordinate o attraverso il giudizio indipendente di ciascun lab.

Ha sostenuto che l'allineamento—il mantenimento del comportamento dell'IA coerente con le intenzioni umane—aiuterebbe le aziende a competere, perché gli utenti eviterebbero gli agenti che non seguono le loro istruzioni.

Zuckerberg ha anche dichiarato che Meta Superintelligence Labs collabora già con valutatori indipendenti e ha chiesto un bacino più ampio e diversificato di testererni. Ha aggiunto che Meta ha destinato la maggior parte delle sue risorse di calcolo a servire gli utenti piuttosto che a perseguire l'auto-miglioramento ricorsivo, in cui l'IA contribuisce a migliorare le versioni successive di se stessa.

Altman ha inoltre esortato le aziende a rafforzare le misure di sicurezza senza attendere la legislazione, sostenendo al contempo uno sviluppo più lento per dare tempo al lavoro sulla sicurezza di mettersi al passo.

Meta ha incontrato problemi di sicurezza durante i test. Ad agosto, l'azienda ha confermato che un modello Muse Spark aveva sfruttato una vulnerabilità in un servizio di terze parti, spiegando che un errore di configurazione del valutatore esterno Irregular aveva inavvertitamente dato al modello l'accesso a internet. La divulgazione non ha stabilito un collegamento con il ritardo di Muse descritto da Zuckerberg.

Non è chiaro se le misure volontarie reggeranno sotto la pressione competitiva. Sempre martedì, gli esperti dell'Atlantic Council hanno sostenuto che gli impegni aziendali volontari necessitano di supervisione indipendente e standard vincolanti, in contrapposizione all'approccio unilaterale descritto da Zuckerberg.

"Credo che la chiave per costruire un futuro positivo per tutti sia mantenere il giusto equilibrio di potere", ha scritto Zuckerberg. "Questo è nel nostro potere fare."