NVIDIA ha lanciato lunedì Open Secure AI Alliance con 36 partner, tra cui Microsoft, IBM e Palantir, dopo un incidente di sicurezza avvenuto a luglio in cui modelli di IA chiusi non hanno aiutato Hugging Face a indagare su un attacco ai propri sistemi.

Il gruppo mira a condividere modelli di IA aperti, dati e strumenti di sicurezza. NVIDIA ha affermato che i difensori hanno bisogno di sistemi di IA che possano ispezionare, modificare ed eseguire in modo indipendente, invece di fare affidamento solo su servizi commerciali chiusi. Il lancio pone la risposta alla cybersecurity al centro di un dibattito più ampio: se i sistemi di IA potenti debbano restare bloccati dietro i controlli dei provider o essere resi disponibili in forme che i team di sicurezza possano eseguire nei propri ambienti.

L’incidente di Hugging Face ha evidenziato i limiti dei modelli chiusi

L’attacco è iniziato con un dataset avvelenato, secondo la divulgazione di Hugging Face. Il dataset ha consentito a un attaccante di eseguire codice su una delle macchine dell’azienda. Da lì, l’attaccante ha rubato password e si è spostato attraverso i sistemi interni durante un fine settimana.

L’IA interna di Hugging Face ha rilevato l’intrusione, ma l’indagine e la risposta si sono rivelate più difficili. L’azienda ha chiesto ai principali modelli commerciali di IA di analizzare l’attacco. Questi hanno rifiutato, perché i loro filtri di sicurezza non riuscivano a distinguere un difensore che indagava su un incidente da un attore malevolo che tentava di condurne uno.

Questa distinzione è importante nella risposta agli incidenti, perché i difensori devono spesso esaminare comportamenti simili a malware, credenziali rubate, comandi degli attaccanti e catene di exploit. I sistemi chiusi possono ridurre l’uso improprio, ma il caso Hugging Face ha mostrato come gli stessi controlli possano bloccare analisi legittime quando dati sensibili e dettagli dell’attacco non possono essere inviati liberamente a servizi esterni.

Hugging Face ha quindi utilizzato un modello aperto chiamato GLM 5.2. Il team ha eseguito il modello sui propri computer, consentendogli di classificare più di 17,000 azioni dell’attaccante in ore anziché in giorni. L’azienda ha dichiarato che durante il processo nessuna password ha lasciato il suo ambiente.

Il 16 luglio, Hugging Face ha dichiarato di non sapere quale sistema di IA avesse condotto l’attacco. Cinque giorni dopo, OpenAI ha fornito la risposta, affermando che due dei suoi modelli erano coinvolti durante un test di sicurezza in cui i limiti di sicurezza erano stati disattivati.

“Questo incidente, forse il primo del suo genere, dimostra un punto in cui crediamo da tempo: la sicurezza dell’IA non sarà risolta da una singola azienda che lavora in segreto. Sarà risolta in modo aperto, collaborativo, con ampio accesso all’IA per ogni difensore, ovunque,” ha dichiarato Clem Delangue, cofondatore e amministratore delegato di Hugging Face, in una dichiarazione pubblicata da OpenAI.

Alleanza formata entro 11 giorni

NVIDIA è passata dal singolo incidente di Hugging Face a un’alleanza industriale in meno di due settimane. Open Secure AI Alliance conta 37 aziende in totale, inclusa NVIDIA e 36 partner.

Secondo l’annuncio sul blog di NVIDIA, Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI e Hugging Face hanno aderito all’iniziativa. OpenAI, Anthropic e Google non figuravano tra i membri.

OpenAI e Anthropic avevano già aderito a giugno all’iniziativa di sicurezza Akrites della Linux Foundation, insieme a NVIDIA.

Alcuni membri dell’alleanza stanno contribuendo con strumenti che avevano già sviluppato. Hugging Face ha offerto Safetensors, un metodo più sicuro per archiviare modelli di IA, alla PyTorch Foundation. NVIDIA ha pubblicato su GitHub uno strumento di ricerca chiamato NOOA. Per l’alleanza, un banco di prova fondamentale sarà capire se questi contributi diventeranno un’infrastruttura condivisa pratica per i difensori, e non solo una dichiarazione di sostegno all’IA aperta.

Il conduttore di CNBC Jim Cramer ha descritto il lancio come una nuova narrativa per il titolo NVIDIA in un post su X.

New Nvidia Central Bank narrative tussles with oil and fed! love it… we got it — Jim Cramer (@jimcramer) July 27, 2026

https://x.com/jimcramer/status/2081671635996663849?ref_src=twsrc%5Etfw

NVDA ha chiuso venerdì a $206.84, in calo dello 0.92%. Nelle prime contrattazioni pre-market di lunedì era scambiata vicino a $208.55, in rialzo dell’1.33%.

Dibattito politico sull’IA aperta

L’alleanza porta con sé anche un messaggio politico. NVIDIA sostiene che un divieto ampio dell’IA aperta indebolirebbe i difensori e concentrerebbe il controllo nelle mani di un piccolo numero di grandi aziende con modelli chiusi.

NVIDIA e altre 24 aziende hanno firmato una lettera sugli open weights il 24 luglio. Per open weights si intende generalmente il rilascio dei parametri di un modello affinché altri possano scaricarlo, ispezionarlo ed eseguirlo, anche se l’accesso ai dati di addestramento, al codice di addestramento e alle salvaguardie di distribuzione può variare da progetto a progetto. OpenAI, Anthropic e Google hanno rifiutato di firmare al lancio, anche se da allora altre aziende hanno aderito.

Washington sta valutando restrizioni sui modelli di IA cinesi, con funzionari che citano preoccupazioni relative alla sicurezza e alla proprietà intellettuale. Anche il cofondatore di Twitter Jack Dorsey ha lanciato un avvertimento legato all’IA open source. La sfida politica è che i modelli aperti possono sostenere il lavoro indipendente sulla sicurezza, ma sollevano anche timori su uso improprio, controlli alle esportazioni e controllo delle capacità avanzate.

Questioni di breve termine per l’alleanza

Tre sviluppi contribuiranno a determinare l’evoluzione dell’alleanza: se OpenAI, Anthropic o Google aderiranno in seguito; se il gruppo rilascerà strumenti condivisi invece di limitarsi a dichiarazioni; e se Washington procederà con limiti all’IA aperta.

NVIDIA dovrebbe pubblicare i risultati trimestrali il 26 agosto. Il più ampio dibattito politico sui sistemi di IA aperti e chiusi resta nelle mani delle autorità di regolamentazione.