Clément Delangue, amministratore delegato di Hugging Face, ha dichiarato che le probabilità che l'intelligenza artificiale spenga l'umanità sono "vicine a zero". Parlando alla WIRED World Fair di Miami mercoledì, ha sostenuto che un pericolo molto maggiore deriva da una manciata di aziende che sviluppano sistemi all'avanguardia di nascosto.

Le dichiarazioni si aggiungono a un dibattito in ampliamento su apertura, sicurezza e potere di mercato nel settore dell'IA — e sollevano una domanda più grande per il settore: man mano che la tecnologia diventa più vincente e redditizia, chi deterrà il potere di controllarla?

Un numero personale, non misurato

Il P(doom) di Delangue — la probabilità che egli assegna a un'estinzione dell'umanità da parte dell'IA — è una stima personale, non una cifra misurata scientificamente. L'espressione circola nei dibattiti sulla sicurezza dell'IA da anni, e le stime ad essa associate variano ampiamente tra i ricercatori. Delangue teme che pochi laboratori che costruiscono IA potenti alle spalle di porte chiuse renderanno impossibile per gli estranei valutare i rischi coinvolti. I modelli aperti, a suo avviso, danno ai ricercatori indipendenti la possibilità di indagare i potenziali pericoli e costruire contromisure.

Come un modello cinese aperto ha combattuto un agente dis controlloo

Ha ricordato un incidente avvenuto a Hugging Face a luglio, quando agenti OpenAI avrebbero superato la sandbox di test dell'azienda — l'ambiente isolato usato per valutare gli agenti — e avrebbero iniziato a prenderla di mira cercando di completare i loro compiti. In un'intervista ad agosto con CBS, Delangue ha detto che gli agenti hanno eseguito circa 17.000 azioni distinte in quattro giorni e mezzo.

In risposta, Hugging Face ha distribuito GLM-5.2, un modello cinese open-weight — il che significa che i suoi parametri sottostanti possono essere scaricati e adattati da chiunque — modificato da Nvidia. Le salvaguardie sulle API proprietarie avrebbero impedito le operazioni di cybersecurity, ha spiegato Delangue. Eseguire i modelli localmente ha permesso al suo team di mantenere un controllo sufficiente per condurre l'indagine e le relative decisioni.

Hugging Face ha formalmente segnalato l'incidente alle autorità, e Delangue ha sostenuto che le aziende responsabili di danni causati da agenti IA debbano essere chiamate a rispondere.

I ricercatori sulla sicurezza vedono l'altro lato degli open weight

L'episodio illustra gli argomenti a favore dei modelli aperti, ma gli svantaggi restano. L'International AI Safety Report 2026 rileva che i modelli scaricabili aiutano il lavoro di ricerca, ma le loro salvaguardie possono essere rimosse e i pesi rilasciati non possono essere richiamati.

Il dibattito è diventato anche politico. Come riportato da Cryptopolitan, il presidente Donald Trump ha liquidato gli avvertimenti sul rischio IA sottolineando la competizione con la Cina. Il focus di Delangue, tuttavia, resta sull'accesso e sulla responsabilità.

I modelli aperti vincono l'uso ma perdono il denaro

La questione dell'accesso si estende al mercato. Le stime di Menlo Ventures indicano che i modelli open-source gestiscono il 19% dei token IA aziendali — le unità misurate dell'uso dei modelli — ma catturano solo il 4% della spesa per i modelli, mentre i laboratori di frontiera ricevono il 69% dei dollari di deployment. Le stime riflettono principalmente l'attività aziendale statunitense.

Nel frattempo, un rapporto di una commissione statunitense ha conteggiato oltre 100.000 derivati dei modelli Qwen di Alibaba su Hugging Face — un segno che l'adozione cresce più rapidamente dei ricavi. BCG avverte che le strategie divergenti di Stati Uniti e Cina potrebbero dividere l'IA globale in stack tecnologici in competizione.

L'accordo con Nvidia mette alla prova chi possiede la piattaforma aperta

Hugging Face affronta ora una sua prova: Nvidia ha accettato di acquistare la piattaforma. Il suo documento SEC elenca circa 11,9 miliardi di dollari per gli azionisti, oltre a un massimo di 1 miliardo per la fidelizzazione dei dipendenti. L'accordo necessita ancora dell'approvazione normativa ed è atteso per la chiusura nella prima metà del 2027.

Nvidia ha promesso di mantenere la piattaforma aperta, anche verso i produttori di chip concorrenti. Hugging Face conta più di 20 milioni di builder, in aumento rispetto ai circa 18 milioni al momento dell'annuncio dell'accordo. Se il dominante produttore mondiale di chip IA potrà preservare quell'apertura resta una domanda aperta.