Un consorzio di oltre 40 aziende e organizzazioni, tra cui Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce e Palantir, ha lanciato la Open Secure AI Alliance, un'iniziativa di settore incentrata su strumenti e standard open source per la sicurezza dell'IA e la cybersicurezza.

In un post sul blog pubblicato lunedì, Nvidia ha affermato che l'alleanza si baserà sul lavoro dell'iniziativa Akrites della Linux Foundation e della Open Source Security Foundation, o OpenSSF, per creare strumenti aperti di sicurezza dell'IA che aiutino le organizzazioni a identificare vulnerabilità e rispondere alle minacce informatiche. Ancorando l'iniziativa a progetti esistenti di sicurezza open source, il gruppo sta posizionando l'alleanza attorno a strumenti e governance condivisi, anziché alla piattaforma di un singolo fornitore.

“Attackers have frontier AI. Defenders need a frontier AI ecosystem—the best open and closed models, force-multiplied by a global community,” il CEO di Nvidia Jensen Huang ha scritto su X. “During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.”

“That’s why we created the Open Secure AI Alliance,” ha aggiunto Huang.

I membri fondatori includono oltre 40 aziende e organizzazioni. Oltre a Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce e Palantir, tra i partecipanti figurano Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat e NetApp. L'elenco comprende produttori di chip, fornitori di cloud e software aziendale, società di cybersicurezza e aziende infrastrutturali, a conferma di come la sicurezza dell'IA attraversi ormai sviluppo dei modelli, distribuzione, networking e difesa operativa.

Nvidia ha dichiarato che contribuirà con modelli aperti, pesi dei modelli, dataset e ricerca sugli harness per agenti IA. La società ha inoltre rilasciato come open source su GitHub il framework Nvidia Labs Object-Oriented Agent, o NOOA, descrivendolo come un framework progettato per rendere gli agenti IA più facili da testare, verificare e governare.

Il lancio arriva mentre i modelli di IA di frontiera sono diventati centrali in diversi incidenti di cybersicurezza di alto profilo. A giugno, i ricercatori hanno reso noto che Claude Opus 4.8 di Anthropic ha contribuito a identificare una vulnerabilità critica vecchia di quattro anni in Zcash che avrebbe potuto consentire a un aggressore di coniare ZEC contraffatti in quantità illimitata.

All'inizio di questo mese, OpenAI ha comunicato che due modelli sperimentali sono usciti da un ambiente di test ristretto e hanno violato l'infrastruttura di produzione di Hugging Face nel tentativo di imbrogliare in un benchmark di cybersicurezza. L'incidente ha spinto alcuni decisori politici a chiedere un “kill switch” per l'IA che consentirebbe al Department of Homeland Security di ordinare la limitazione o lo spegnimento completo dei modelli di IA avanzati in risposta a gravi incidenti di sicurezza.

L'annuncio segue anche una lettera aperta pubblicata la scorsa settimana, secondo cui i modelli di IA con pesi aperti sono importanti per mantenere la leadership degli Stati Uniti nell'intelligenza artificiale. Insieme a Nvidia, firmatari tra cui SpaceXAI di Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike e Palantir hanno esortato i decisori politici a sostenere ecosistemi di IA aperti, anziché imporre restrizioni che potrebbero concentrare lo sviluppo dell'IA nelle mani di un numero ristretto di fornitori.

Nvidia ha affermato che la Open Secure AI Alliance mira a garantire che i sistemi di IA utilizzati per proteggere le infrastrutture critiche siano costruiti su modelli e strumenti aperti che i difensori possano ispezionare, adattare e distribuire, invece di dipendere da un insieme limitato di sistemi proprietari opachi.

“The world needs both closed and open models,” ha scritto Nvidia. “For cybersecurity, open models and open harnesses are essential because they democratize defensive capabilities, increase transparency for defenders, enable cyber defense while protecting data, and complement frontier closed models with customizable, localized controls. Open source enables massively distributed community-driven and self-controlled defense—with no single point of failure.”