Mentre si apre la conferenza annuale Black Hat a Las Vegas, l'Open Secure AI Alliance — che comprende ora più di 120 organizzazioni — sta promuovendo nuove linee guida e tecnologie open source volte a rafforzare la cybersecurity dei sistemi di AI agente, sistemi di intelligenza artificiale in grado di perseguire obiettivi in modo autonomo, selezionare e utilizzare strumenti e interagire con applicazioni e dati esterni.

La Linux Foundation ha pubblicato una Request for Comments sul Shared AI Findings Exchange (SAFE), un framework proposto volto a trasformare gli incidenti cybersecurity relativi all'AI agente in intelligence difensiva condivisa per l'intero ecosistema. Le linee guida SAFE sono sviluppate da un gruppo di lavoro dell'Open Secure AI Alliance, con NVIDIA, Cisco, CrowdStrike, Hugging Face e Red Hat tra i membri che collaborano con la Linux Foundation alla proposta iniziale. L'iniziativa riunisce competitor diretti — produttori di chip, provider cloud, aziende di cybersecurity e piattaforme di AI — sotto un framework comune, riflettendo l'urgenza di stabilire pratiche difensive condivise mentre le implementazioni di AI agente passano dai progetti pilota agli ambienti di produzione.

Secondo le linee guida SAFE, l'alleanza propone di raccogliere e analizzare in modo confidenziale gli incidenti AI e i quasi-incidenti, notificare le parti interessate, identificare le falle di controllo ricorrenti e pubblicare raccomandazioni operative basate su evidenze volte a ridurre il rischio sistemico.

Il contesto più ampio è caratterizzato da una sfida crescente: ogni grande cambiamento tecnologico introduce nuove superfici di attacco e i difensori devono operare a quella che l'alleanza descrive come "velocità dell'agente" per proteggere infrastrutture e proprietà intellettuale. La condivisione aperta delle informazioni sulle minacce all'interno di ecosistemi affidabili è posizionata come un moltiplicatore di forza per la difesa collettiva.

I membri dell'alleanza espandono un toolkit di sicurezza full-stack

Il framework SAFE si aggiunge a un corpo crescente di contributi tecnologici dai membri dell'Open Secure AI Alliance, che stanno costruendo e condividendo strumenti open e ispezionabili lungo l'intero stack di sicurezza AI — dai controlli di identità e dagli harness ai guardrail, ai log e ai sistemi di valutazione. L'enfasi sull'open source riflette una premessa fondamentale dell'alleanza: gli strumenti di sicurezza che possono essere ispezionati, auditati e migliorati in modo indipendente dalla comunità sono più adatti a costruire fiducia in sistemi che possono agire in modo autonomo.

Software e modelli di cybersecurity open source di NVIDIA

I contributi di NVIDIA coprono l'intero stack. L'harness di ricerca NVIDIA Labs Object-Oriented Agent (NOOA), disponibile su GitHub, è progettato per rendere più semplice testare, tracciare, auditare e governare il comportamento degli agenti. Il runtime NVIDIA OpenShell limita ciò a cui un agente può accedere ed eseguire, applicando controlli di sicurezza e privacy a livello di agente.

Le famiglie di modelli open source di NVIDIA — Nemotron per l'AI agente, Cosmos per l'AI fisica, Isaac GR00T per la robotica, BioNeMo per sanità e scienze della vita e Alpamayo, descritto come il modello più grande al mondo per veicoli autonomi con licenza per uso commerciale — sono rilasciati con pesi aperti, dataset e tecniche di addestramento.

Le competenze agente verificate open source di NVIDIA estendono la governance al livello delle capacità. Ogni competenza include set di istruzioni portatili catalogati, sottoposti a scansione per rischi come prompt injection e avvelenamento degli strumenti, firmati crittograficamente e documentati con una skill card — consentendo ai difensori di verificare esattamente cosa fa una competenza, la sua origine e se è stata modificata dopo la pubblicazione.

NeMo Guardrails, NeMo Anonymizer e NeMo Safe Synthesizer aiutano ad applicare policy di sicurezza, proteggere i dati sensibili e generare dati sintetici sicuri per la privacy. Garak, lo scanner di vulnerabilità LLM open source di NVIDIA, consente ai team di sicurezza di testare i modelli per fughe di dati, prompt injection e scenari di jailbreak prima della distribuzione.

Identità e permessi — Chi è autorizzato ad agire

La protezione dell'identità dell'agente è la base dell'intero stack di sicurezza.

Okta sta sviluppando implementazioni di riferimento per l'identità e l'accesso degli agenti, dimostrando come il protocollo aperto Cross App Access (XAA) consenta agli agenti AI in ambienti sandbox OpenShell di connettersi in modo sicuro alle applicazioni aziendali.

Palo Alto Networks ha contribuito con strumenti open source dalla piattaforma Idira, di nuova generazione per la sicurezza delle identità, tra cui Agent Guard e Agent Watch. Questi strumenti aiutano gli sviluppatori ad applicare le migliori pratiche di sicurezza delle identità e salvaguardie come il recupero sicuro di segreti per i flussi di lavoro agentici.

Un nuovo progetto open source fondato da Red Hat, chiamato asago, mappa i requisiti di governance personalizzati di un'organizzazione — facendo riferimento a framework come NIST, OWASP e l'EU AI Act — direttamente ai permessi runtime degli agenti, mantenendo un singolo audit trail dalla clausola di policy al controllo attivo. Mentre i regolatori a livello mondiale rafforzano i requisiti di governance dell'AI, gli strumenti che traducono i mandati di policy in controlli tecnici applicabili stanno diventando sempre più critici per le organizzazioni che intendono dimostrare la conformità.

Harness e strumenti — Orchestrazione del lavoro di sicurezza

Gli agenti AI operano all'interno di ecosistemi di modelli aperti e chiusi, harness, strumenti e runtime. Se il modello funge da cervello dell'agente, l'harness rappresenta il corpo che esegue le azioni attraverso gli strumenti, orchestrando come gli agenti vengono distribuiti, coordinati e vincolati.

Amazon, uno dei membri più recenti dell'Open Secure AI Alliance, contribuisce con Strands Agents — un toolkit open source per la costruzione di agenti AI aperto a ogni livello, che offre agli sviluppatori piena visibilità sul comportamento degli agenti e la possibilità di valutare i sistemi agentici in produzione. Amazon contribuisce anche con Cedar, un linguaggio di autorizzazione open source che applica limiti deterministici e verificabili alle azioni permesse agli agenti.

Capital One ha reso open source VulnHunter per la sicurezza del codice AI agente. Cloudflare offre il suo Vulnerability Discovery Harness come competenza open source per i sistemi di agenti.

Il Microsoft AI Red Team ha reso open source diversi strumenti e harness. PyRIT — il Python Risk Identification toolkit — consente red teaming automatizzato con memoria integrata, supportando target comuni ed endpoint personalizzati. RAMPART e Clarity trasformano i risultati del red team e gli incidenti reali in test ripetibili e aiutano i team a mettere in discussione le assunzioni di progettazione prima che il codice venga scritto. Microsoft ha anche reso open source Assert, che converte requisiti in linguaggio naturale e comportamenti attesi di sicurezza AI in valutazioni eseguibili.

Atlas, sviluppato da Wiz, è un motore autonomo di ricerca delle vulnerabilità che orchestra agenti AI specializzati per scoprire e convalidare difetti di sicurezza nel codice e nei pacchetti open source.

Visa, che ha anch'essa aderito all'Open Secure AI Alliance, ha contribuito con il suo Visa Vulnerability Agentic Harness open source per aiutare i team a identificare i problemi e supportare il remediation e la validazione.

Modelli — Intelligenza sviluppata per la sicurezza e la difesa dell'AI

I modelli specializzati di sicurezza sono costruiti specificamente per compiti di difesa: addestrati per comprendere il codice, individuare le vulnerabilità e ragionare sulle minacce su larga scala. Possono supportare i flussi di lavoro agentici come sistemi di modelli, con modelli aperti e chiusi che lavorano in concerto.

Cisco DefenseClaw è un livello di governance agentico open source che opera sopra NVIDIA OpenShell, fornendo sicurezza runtime automatizzata quando si scala la forza lavoro agentica. Cisco ha anche rilasciato due modelli linguistici di piccole dimensioni per la sicurezza Antares progettati per individuare le vulnerabilità note all'interno dei codebase, insieme a Project CodeGuard per incorporare pratiche secure-by-default nei flussi di lavoro di codifica AI.

CrowdStrike sta mettendo a punto il modello NVIDIA Nemotron Nano per la difesa cyber. I test interni hanno raggiunto una precisione del 96% nella generazione di query di indagine all'interno di Falcon LogScale, fornendo un'interfaccia in linguaggio naturale che aumenta l'efficienza investigativa degli agenti. CrowdStrike ha anche pubblicato una ricerca che dimostra come un modello di reasoning NVIDIA Nemotron Nano specializzato superi modelli molto più grandi nel triage di rilevamento del Security Operations Center, introducendo al contempo una fiducia basata sui logit calibrata per consentire decisioni di sicurezza autonome misurabili, regolabili e auditabili.

Oltre al rilevamento, i difensori devono comprendere perché gli agenti hanno agito, se i sistemi si comportano in modo sicuro e come gli attacchi stanno evolvendosi. Akamai contribuisce con approfondimenti dai suoi report State of the Internet e dalla ricerca del Security Intelligence Group, attingendo a dati reali per illustrare le minacce dell'era dell'AI.

Cognition ha rilasciato una valutazione dell'affidabilità che misura l'allineamento e i rischi di sicurezza dei modelli derivati da open source, dimostrando che questi rischi possono essere mitigati tramite post-training.

Numbat, sviluppato da Perplexity, è una suite di sicurezza degli agenti open source per gli endpoint client. Rileva, investiga e previene l'attività degli agenti su macOS, Linux e Windows, fornendo ai difensori un registro strutturato delle azioni degli agenti.

Uber ha reso open source componenti chiave di ADR (Agentic AI Detection and Response), un sistema di produzione che ricostruisce l'intera catena causale dell'attività degli agenti AI — dal prompt al ragionamento, alle chiamate degli strumenti e agli esiti. ADR supporta attualmente oltre 200.000 sessioni agente al giorno su 30.000 endpoint, utilizzando un approccio di analisi a due livelli che combina rilevamento efficiente con indagini più approfondite per le minacce ad alta affidabilità.

Disponibilità e resilienza — Ripristino rapido quando ogni momento conta

I sistemi di agenti devono rimanere affidabili in caso di interruzioni, contenere i guasti e riprendersi in modo sicuro senza perdere lo stato critico o esporre l'ambiente più ampio.

LangChain sta aggiungendo capacità di resilienza ai suoi framework open source — Deep Agents, LangGraph e LangChain — consentendo agli agenti di ritentare il lavoro interrotto, seguire percorsi di ripristino sicuri, riprendere da stati salvati e passare automaticamente a modelli alternativi quando i modelli primari falliscono.

Veeam aiuta le organizzazioni a mantenere i dati e le infrastrutture legati all'AI resilienti e recuperabili attraverso tecnologie tra cui Kanister, il suo framework open source per la protezione dei dati su Kubernetes. Kanister aiuta i team a proteggere e recuperare carichi di lavoro AI, database vettoriali e dati a uno stato noto e verificato come sicuro.

Sono previsti ulteriori contributi man mano che l'alleanza continua a crescere. Quando i membri pubblicano mitigazioni riutilizzabili, i difensori dell'ecosistema possono ispezionarle, adattarle e migliorarle, consentendo alle pratiche di sicurezza di evolversi insieme ai progressi dell'AI.

I membri dell'Open Secure AI Alliance sono programmati per riunirsi al Black Hat martedì 4 agosto alle 17:15 PT per una foto di gruppo all'esterno del Main Stage, Business Hall presso il Mandalay Bay Convention Center. Ulteriori informazioni sull'alleanza sono disponibili alla pagina Open Secure AI Alliance.