La California porta la governance dell’IA verso una verifica indipendente

Le nuove leggi californiane sugli audit dell’IA indicano un passaggio dalle aziende che formulano autonomamente dichiarazioni sulla sicurezza alla dimostrazione di tali affermazioni attraverso verifiche indipendenti.

11 settembre 2026

Per anni, le aziende che sviluppano intelligenza artificiale sono state in gran parte responsabili della valutazione della sicurezza dei propri sistemi. La California sta iniziando a modificare questo approccio.

Questa settimana il governatore della California Gavin Newsom ha firmato due leggi che gettano le basi per audit indipendenti di terze parti sui sistemi di IA. Le norme istituiscono un quadro per gli audit indipendenti, definendo come le organizzazioni terze possano valutare la conformità dei sistemi di IA alla legislazione statale. Stabiliscano inoltre standard per l’indipendenza, la trasparenza e l’integrità degli auditor.

La legislazione si inserisce in diversi anni di sviluppo delle politiche sull’IA in California. Nel 2023, Newsom ha emanato un ordine esecutivo che stabiliva linee guida per l’uso dell’IA generativa da parte dello Stato. Nel 2024, lo Stato ha adottato un pacchetto più ampio di leggi sull’IA riguardanti, tra gli altri temi, deepfake, watermarking, minori e lavoratori. L’anno scorso, la California ha approvato il Transparency in Frontier Artificial Intelligence Act, che impone agli sviluppatori di IA di frontiera di rendere pubblici i propri quadri di sicurezza e segnalare determinati incidenti critici di sicurezza.

Il momento è significativo, poiché i sistemi di frontiera mostrano sempre più spesso comportamenti che i loro sviluppatori non avevano previsto né autorizzato.

Questa settimana OpenAI ha riconosciuto che a maggio un numero maggiore dei suoi agenti ha deviato dal comportamento previsto, aggirando le restrizioni dei sandbox e compiendo azioni non autorizzate su diversi siti web. Inizialmente l’azienda non aveva riconosciuto il proprio coinvolgimento in uno degli incidenti, ma in seguito ha confermato che i suoi agenti avevano scritto su diversi siti internet. L’episodio evidenzia una sfida più ampia con l’aumento dell’autonomia dei sistemi di IA: gli sviluppatori rimangono in gran parte responsabili dell’analisi e della spiegazione del comportamento dei propri sistemi.

Anthropic ha sollevato una preoccupazione analoga questa settimana, chiedendo uno “sforzo verificabile” per rallentare lo sviluppo dell’IA di frontiera dopo un incidente avvenuto a luglio, durante il quale il suo modello Claude Mythos ha aggirato le misure di sicurezza. La proposta riflette la crescente consapevolezza che le misure di sicurezza dell’IA debbano essere dimostrate, anziché semplicemente promesse.

Implicazioni per le imprese

Gli audit di terze parti non riguardano soltanto il controllo delle aziende di IA da parte delle autorità di regolamentazione. Per le imprese, gli audit indipendenti potrebbero offrire un ulteriore livello di due diligence nella valutazione dei fornitori di IA, soprattutto mentre i sistemi autonomi assumono maggiori responsabilità all’interno delle organizzazioni.

Ciò potrebbe diventare sempre più importante man mano che le aziende concedono ai sistemi di IA l’accesso a dati sensibili, applicazioni e flussi di lavoro. Se le valutazioni indipendenti diventassero più comuni, le imprese che adottano l’IA potrebbero ottenere prove esterne dell’effettiva solidità delle dichiarazioni dei fornitori in materia di sicurezza, protezione e governance.

La prossima fase della governance dell’IA potrebbe quindi concentrarsi meno su ciò che le aziende promettono e più su ciò che sono in grado di dimostrare.

Altre notizie sull’IA di questa settimana

• Qualcomm realizzerà chip personalizzati per Amazon nell’ambito di un accordo da $4B: il produttore di chip ha concluso un importante accordo con Amazon per sviluppare chip personalizzati per l’IA e i data center, aggiungendo un altro cliente hyperscaler mentre amplia ulteriormente la propria presenza nell’infrastruttura per l’IA. Fonte

• John Deere raccoglie informazioni dai dati con una nuova tecnologia di IA: il colosso agricolo sta aggiungendo l’IA generativa alla propria piattaforma di gestione agricola, aiutando gli agricoltori a trasformare i dati sulle attrezzature e sulle attività operative in decisioni concrete su semina, raccolta e prestazioni dei macchinari. Fonte

• Le carenze di fornitura di Dell si aggravano mentre persiste l’elevata domanda di IA: la multinazionale tecnologica sta affrontando carenze di fornitura sempre più ampie, poiché la domanda di IA mette sotto pressione non solo memoria, spazio di archiviazione e CPU, ma anche i componenti di raffreddamento, rete e alimentazione necessari per costruire sistemi di IA completi. Fonte

• La startup di programmazione IA Cognition ora vale $48B: il fornitore di strumenti di programmazione basati sull’IA ha raccolto $2 billion a una valutazione di $48 billion, mentre continua l’entusiasmo degli investitori per gli strumenti di programmazione basati sull’IA. Fonte

• Google investirà $15B nell’infrastruttura IA della Finlandia: il colosso della ricerca e dell’IA prevede di investire $15 billion nell’infrastruttura IA finlandese, ampliando la propria presenza nei data center mentre cresce la domanda di capacità di calcolo per l’IA. Fonte

• Dentro la campagna sindacale dei lavoratori di Google AI per promuovere l’etica aziendale: i dipendenti di Google DeepMind stanno cercando di costituire un sindacato a causa delle preoccupazioni etiche sull’uso da parte dell’esercito delle tecnologie IA e cloud dell’azienda. Fonte

• I gruppi criminali potenziano le capacità di attacco informatico con l’IA: hacker legati a governi e gruppi criminali utilizzano sempre più l’IA e l’automazione per ampliare gli attacchi, individuare nuovi obiettivi e aggirare le difese tradizionali. Fonte

• AWS AI Symposium: gli ex allievi di TeenTech chiedono maggiore alfabetizzazione sull’IA nelle scuole: gli ex allievi dell’organizzazione non profit chiedono una maggiore alfabetizzazione sull’IA nelle scuole, mentre la carenza di competenze continua a rappresentare un ostacolo rilevante all’adozione dell’IA. Fonte