Nvidia e diverse grandi aziende tecnologiche hanno lanciato una nuova iniziativa per la sicurezza dell’intelligenza artificiale, volta a migliorare le capacità di sicurezza dei modelli di IA aperti.

L’iniziativa segue un cyberattacco che avrebbe coinvolto un modello OpenAI non autorizzato, secondo quanto riportato diretto contro la piattaforma di IA Hugging Face. Durante l’incidente, Hugging Face non ha potuto fare affidamento sui principali modelli frontier statunitensi per difendere i propri sistemi, perché i guardrail di sicurezza integrati non riuscivano a distinguere in modo costante l’attività malevola dal legittimo lavoro difensivo di cybersicurezza.

Secondo quanto riportato, Hugging Face ha invece utilizzato un modello cinese open-weight ospitato autonomamente, non soggetto alle stesse restrizioni. I modelli open-weight possono essere eseguiti e controllati dagli utenti al di fuori del servizio ospitato dallo sviluppatore originale, una caratteristica che può essere utile per i team di sicurezza che necessitano di accesso diretto durante le indagini.

Nvidia sostiene la Open Secure AI Alliance

Nvidia ha affermato che la Open Secure AI Alliance svilupperà e condividerà tecnologie aperte progettate per identificare, divulgare e correggere vulnerabilità di sicurezza. Nel suo annuncio, Nvidia ha dichiarato che l’incidente di Hugging Face ha mostrato che i team di cybersicurezza hanno bisogno di accedere a sistemi di IA agentica aperti e di livello frontier per finalità difensive:

I sistemi di IA agentica possono svolgere attività in più fasi con un certo grado di autonomia, caratteristica che li rende rilevanti per i flussi di lavoro di cybersicurezza, come la scoperta, l’analisi e la risposta alle vulnerabilità. Le stesse capacità sollevano anche preoccupazioni sulla sicurezza quando i modelli vengono utilizzati senza controlli adeguati.

L’alleanza include Nvidia, Microsoft, SpaceX, Palantir e decine di altre aziende tecnologiche degli Stati Uniti e dell’Europa. I membri dovrebbero collaborare su strumenti di IA aperti in grado di supportare la ricerca sulla cybersicurezza e migliorare la capacità delle organizzazioni di rispondere ad attacchi sofisticati.

L’iniziativa potrebbe anche ridurre la dipendenza del settore tecnologico dai modelli di IA cinesi open-weight.

I decisori politici statunitensi valutano limiti ai modelli di IA cinesi

L’alleanza sostenuta da Nvidia arriva mentre i decisori politici statunitensi valutano misure per limitare l’uso dei sistemi di IA cinesi.

Le società cinesi di IA sono state accusate di aver utilizzato tecniche di distillazione per estrarre informazioni da modelli più avanzati sviluppati da concorrenti statunitensi. La distillazione indica generalmente l’addestramento di un modello utilizzando gli output o le capacità di un altro sistema più potente.

Il Segretario al Tesoro degli Stati Uniti Scott Bessent ha recentemente avvertito che le società cinesi accusate di condurre attacchi di distillazione non autorizzati potrebbero essere soggette a sanzioni. Il relativo post su X è disponibile all’indirizzo: https://x.com/SecScottBessent/status/2080008411790368895

Gli esperti ritengono che le possibili restrizioni potrebbero includere il divieto per le aziende statunitensi di acquistare accesso a modelli di IA cinesi tramite interfacce di programmazione delle applicazioni. Altre misure potrebbero impedire ai provider cloud americani di ospitare tali modelli e far pagare i clienti per utilizzarli. Regole di questo tipo renderebbero più importante la disponibilità di alternative affidabili e ospitate in modo indipendente per le aziende che hanno bisogno di strumenti di IA ma devono rispettare requisiti di conformità, controllo dei dati o sicurezza nazionale.

I modelli di IA aperti diventano una priorità di sicurezza

Guardrail rigorosi possono contribuire a impedire che i modelli di IA vengano utilizzati negli attacchi, ma possono anche limitare attività difensive legittime. Il presunto incidente di Hugging Face indica che le organizzazioni potrebbero incontrare difficoltà nel proteggersi quando i modelli chiusi respingono richieste legate alla cybersicurezza senza riconoscere la differenza tra un attaccante e un difensore.

Attraverso la nuova alleanza, Nvidia e i suoi partner puntano a costruire un ecosistema aperto in cui strumenti avanzati di sicurezza basati sull’IA possano essere sviluppati, testati e condivisi in modo più ampio. L’iniziativa arriva mentre i governi valutano restrizioni sui modelli cinesi e le aziende cercano alternative sicure che possano essere ospitate e controllate in modo indipendente.