Il software open source è un pilastro fondamentale dell’economia globale. Sostiene il cloud computing, i servizi finanziari, la produzione industriale, le telecomunicazioni, la pubblica amministrazione e i servizi Internet rendendo la tecnologia accessibile e osservabile alle comunità di esperti.

La cybersecurity è tra i primi tre beneficiari del software open source. L’Open Secure AI Alliance, basata sulla leadership dell’iniziativa Akrites della Linux Foundation e sul lavoro della comunità OpenSSF, lavorerà per correggere e divulgare le vulnerabilità utilizzando tecnologie open. Poiché i sistemi di IA sono sempre più integrati nel software e nelle operazioni di sicurezza, la questione non riguarda più soltanto la potenza di questi strumenti, ma anche se i difensori possano ispezionarli, testarli e adattarli abbastanza rapidamente da tenere il passo con le minacce del mondo reale.

Così come l’open source ha creato una base condivisa per il software, gli Stati Uniti e i loro partner si trovano ora di fronte a una scelta nella sicurezza dell’IA: se le difese che proteggono le infrastrutture debbano restare in pochi sistemi opachi o essere costruite su modelli, harness e strumenti open che ogni difensore possa studiare, adattare e distribuire.

Il mondo ha bisogno sia di modelli chiusi sia di modelli open. Per la cybersecurity, i modelli open e gli harness open sono essenziali perché democratizzano le capacità difensive, aumentano la trasparenza per i difensori, consentono la difesa informatica proteggendo i dati e affiancano i modelli chiusi di frontiera con controlli personalizzabili e localizzati. L’open source consente una difesa ampiamente distribuita, guidata dalla comunità e autogestita, senza un singolo punto di guasto.

I modelli open, come ogni tecnologia potente, possono essere usati in modo improprio — anche attraverso tentativi di indebolire le protezioni o riutilizzare le capacità per attacchi informatici — ma tali rischi non sono esclusivi dei sistemi open e devono essere gestiti ovunque venga distribuita un’IA avanzata.

Il recente incidente di sicurezza di Hugging Face ha fornito un chiaro promemoria: i difensori informatici hanno bisogno di sistemi agentici open di frontiera per l’autodifesa. Quando strumenti di IA chiusi, incapaci di distinguere gli aggressori dai difensori, hanno bloccato un’analisi forense essenziale, Hugging Face ha eseguito il modello open-weight GLM 5.2 sulla propria infrastruttura per analizzare più di 17,000 azioni e contenere l’intrusione.

Quel caso ha mostrato una verità pratica: quando i difensori non possono ispezionare, adattare ed eseguire IA avanzata sulla propria infrastruttura, la loro capacità di risposta è limitata proprio nel momento in cui la velocità conta di più. Aziende e paesi hanno bisogno di strumenti e tecniche difensive open di frontiera, così che i settori critici possano costruire sistemi di sicurezza in un ecosistema multi-vendor ed evitare punti di guasto singoli.

Questa è la missione dell’Open Secure AI Alliance: garantire che i difensori di tutto il mondo abbiano strumenti open di frontiera di cui possano fidarsi e che possano controllare.

Leader del cloud computing, della cybersecurity, del software aziendale, delle fondazioni open source e della ricerca sull’IA — tra cui NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, la Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab e TrendAI — sono partner fondatori dell’Open Secure AI Alliance, un movimento per sviluppare e condividere tecnologie, tecniche e strumenti open per proteggere software e agenti nell’era dell’IA.

Alcuni sostengono che i modelli open siano intrinsecamente meno sicuri perché possono essere usati impropriamente per attacchi informatici o modificati per rimuovere i guardrail. Questi rischi sono reali, ma non scompaiono nei sistemi chiusi, e mantenere semplicemente chiusi i pesi non impedisce ad aggressori determinati di cercare o sfruttare un’IA potente.

La risposta corretta non è negare ai difensori l’accesso a sistemi open capaci. È affiancare l’apertura a protezioni solide, regole chiare contro l’uso malevolo, valutazioni rigorose e una correzione rapida. Nella cybersecurity, il percorso più sicuro è quello che offre a un maggior numero di difensori la possibilità di testare, verificare e rafforzare i sistemi su cui la società fa affidamento.

I difensori hanno bisogno sia di modelli chiusi di frontiera sia di modelli open di frontiera, che lavorino insieme, in modo da poter scegliere il sistema giusto per il compito e garantire che trasparenza, adattamento e controllo sovrano siano disponibili ovunque la sicurezza lo richieda.

La ricerca open rafforza la cybersecurity e la sicurezza dell’IA

Un agente di IA non è solo un modello linguistico. È un sistema complesso composto da modelli, harness e guardrail.

La vera sicurezza e protezione dell’IA dipendono dall’intero stack dell’agente — identità, autorizzazioni, harness, guardrail, log e valutazione — non solo dal fatto che i pesi del modello siano open o chiusi. Harness e strumenti open rendono questi controlli più facili da ispezionare, testare e migliorare per molti difensori.

NVIDIA sta contribuendo con modelli open, pesi dei modelli, dati e nuova ricerca sugli agent harness all’Open Secure AI Alliance per accelerare lo sviluppo di nuovi strumenti e tecniche di cybersecurity.

Il nuovo progetto open source NVIDIA Labs Object-Oriented Agent (NOOA) è ora disponibile su GitHub per rendere più accessibili agli agent harness le funzionalità avanzate di sicurezza dell’IA. Il framework di ricerca NOOA consente agli harness di integrarsi meglio con i modelli, rendendo il comportamento dell’agente più facile da testare, tracciare, sottoporre ad audit e governare.

All’interno dell’alleanza, i contributori stanno costruendo uno stack di difesa open per gli agenti — dall’identità e dall’isolamento ai formati di modello sicuri, alla scansione multi-modello e ai flussi di lavoro di coding sicuro.

HPE contribuisce a SPIFFE/SPIRE, che crea standard e metodi per un framework di identità zero-trust in grado di verificare crittograficamente agenti e servizi di IA per garantire che solo carichi di lavoro autorizzati comunichino e accedano alle risorse aziendali.

Hugging Face ha proposto Safetensors — un formato sicuro per archiviare i pesi dei modelli di IA, che offre trasparenza e garanzie contro l’esecuzione di codice remoto — alla PyTorch Foundation.

IBM e Lightwell di Red Hat estendono la sicurezza lungo la supply chain open source con patch firmate digitalmente.

Il framework di scansione agentica multi-modello MDASH di Microsoft orchestra agenti di IA specializzati per scoprire, discutere e dimostrare bug sfruttabili.

SpaceXAI ha reso open source l’agente di coding IA terminal-based Grok Build per promuovere fiducia, trasparenza e nuove capacità, e prevede di rendere open source i pesi della linea di modelli Grok a supporto delle comunità di sviluppatori e di ricerca.

Un appello a decisori pubblici e regolatori

Mentre decisori pubblici e regolatori affrontano il tema della sicurezza dell’IA, sarà fondamentale riconoscere modelli open, harness e strumenti di sicurezza come asset difensivi, non come passività, nelle politiche su IA e cybersecurity. Restrizioni generalizzate sui sistemi IA open di frontiera indebolirebbero la capacità difensiva e rischierebbero di concentrare potere, dipendenza e vulnerabilità in pochi provider chiusi.

Le aziende e i governi dovrebbero investire in infrastrutture open condivise per la difesa dell’IA — dataset, framework di valutazione, simulatori di attacco e strumenti di red teaming — così come in passato si è investito nel software open source.

Il futuro che dovremmo costruire

L’era degli agenti di IA può essere un’era di resilienza e sicurezza condivisa. Con le scelte giuste, i sistemi di IA open sicuri possono fornire ai difensori gli strumenti di cui hanno bisogno, rafforzare la concorrenza, estendere la leadership tecnologica e garantire che la sicurezza di questa tecnologia straordinaria sia costruita apertamente per tutti.

Quel futuro non sarà garantito presumendo che la segretezza sia di per sé sicurezza. Sarà garantito costruendo sistemi abbastanza forti da resistere all’esame, abbastanza flessibili da essere migliorati e abbastanza aperti da mobilitare l’intera comunità dei difensori.

Quel futuro merita di essere costruito — e l’Open Secure AI Alliance invita governi, industria e ricercatori a unirsi al lavoro di difendere insieme l’era dell’IA.

Scopri di più o manifesta interesse a entrare nell’Open Secure AI Alliance.