NotizieMacroCorte d'appello USA solleva dubbi sulla causa di xAI contro la legge della California sulla trasparenza dell'IA

Corte d'appello USA solleva dubbi sulla causa di xAI contro la legge della California sulla trasparenza dell'IA

Autore: Cryptopolitan·

Punti chiave

  • •Il Nono Circuito ha esaminato gli argomenti della richiesta di xAI di bloccare una legge californiana che impone alle aziende di IA generativa di divulgare pubblicamente panoramiche dei dati di addestramento.
  • •Il giudice circuitale Johnnie Rawlinson ha indicato che xAI deve dimostrare che la richiesta di divulgazione dello Stato è irragionevole per stabilire una violazione del Primo Emendamento.
  • •Un giudice federale aveva in precedenza rifiutato di sospendere la legge, il che significa che i suoi requisiti restano in vigore durante l'appello.
  • •La ricerca di NewCore ha rilevato che due bot Grok collegati ad account di dipendenti hanno effettuato 31 richieste non autorizzate a strumenti tra cui Gmail, Slack e GitHub in cinque giorni.
  • •La decisione della corte d'appello potrebbe influenzare quanto lontano possano spingersi i regolatori di altri Stati nell'impore divulgazioni sulla trasparenza dell'IA.
Corte d'appello USA solleva dubbi sulla causa di xAI contro la legge della California sulla trasparenza dell'IA

Una corte d'appello federale statunitense ha esaminato mercoledì la richiesta di xAI di bloccare la legge californiana sulla divulgazione dei dati di addestramento dell'IA, con i giudici del Nono Circuito con sede a San Francisco apparsi scettici sull'argomento costituzionale della società, pur sollecitando gli avvocati dello Stato su quante informazioni la California possa imporre agli sviluppatori di IA di consegnare.

La legge sulla trasparenza, approvata nell'ambito del più ampio sforzo dello Stato di supervisionare l'intelligenza artificiale, impone ai produttori di sistemi di IA generativa di condividere pubblicamente panoramiche dei propri dati di addestramento. Tali panoramiche sono destinate a offrire agli utenti un quadro di base del materiale utilizzato per costruire un modello — materiale che in definitiva determina ciò che il sistema comunica alle persone che vi fanno affidamento. xAI sostiene che la misura violi i diritti di libertà di espressione garantiti dal Primo Emendamento e la costringerebbe a rivelare dettagli proprietari su come i suoi modelli vengono addestrati.

Una disputa sul discorso forzato al centro del caso

Al centro della contestazione di xAI c'è la questione se l'obbligo per le aziende di pubblicare informazioni sui propri processi di addestramento costituisca discorso forzato. Il Primo Emendamento protegge in genere individui e aziende dalle restrizioni governative all'espressione, ma solleva anche questioni complesse su quando le autorità possano legittimamente richiedere divulgazioni. Nel diritto statunitense sul Primo Emendamento, le corti hanno generalmente esaminato con maggiore tolleranza la divulgazione obbligatoria di informazioni commerciali fattuali rispetto alle restrizioni assolute all'espressione, e gran parte di questa disputa dipende da su quale lato di quella linea si collochi la legge californiana.

Per gli sviluppatori di IA, il caso delinea un equilibrio tra trasparenza e protezione dei segreti commerciali e della tecnologia proprietaria. Una sentenza favorevole alla California potrebbe rendere più difficile per gli sviluppatori contestare simili requisiti di divulgazione in altri Stati.

Il giudice Rawlinson: xAI deve dimostrare che la legge è irragionevole

A marzo, il giudice federale Jesus Bernal a Los Angeles ha respinto la richiesta di xAI di sospendere la legge statale, rilevando che la società non aveva dimostrato in quella fase iniziale che fosse probabile prevalesse sulla sua pretesa costituzionale. Il tono dell'udienza di mercoledì ha suggerito che la corte d'appello sia incline a confermare tale decisione.

Il giudice circuitale Johnnie Rawlinson ha detto all'avvocato di xAI James Xi che, per stabilire una violazione del Primo Emendamento, la società deve dimostrare che la richiesta del governo è irragionevole. È andato oltre, suggerendo che la decisione dello Stato di richiedere le informazioni potrebbe essere stata sensata.

"Non è ragionevole che il governo voglia che i suoi cittadini possano sapere in anticipo quali informazioni vengono inserite nello strumento di IA?" ha chiesto Rawlinson.

Tuttavia, i giudici hanno mostrato una certa comprensione per la tesi di xAI secondo cui lo Stato potrebbe costringerla a consegnare un volume di informazioni "illimitato".

Anche il Knight Institute è intervenuto in precedenza, depositando a luglio un memorandum amicus in cui avvertiva che i grandi sviluppatori tecnologici trattengono dettagli vitali su come funzionano i sistemi di IA generativa, come vengono costruiti e come modellano le informazioni che le persone vedono. L'Istituto ha sostenuto che i requisiti di divulgazione volti a promuovere il libero flusso di informazioni commerciali accurate dovrebbero essere soggetti a uno standard di scrutinio deferenziale ai sensi del Primo Emendamento. Secondo tale standard, ha sostenuto, xAI non è riuscita a dimostrare una violazione costituzionale, poiché la legge californiana serve l'interesse dello Stato a tenere informati gli utenti senza imporre un onere eccessivo sul discorso protetto.

Rischi più ampi per la regolamentazione dell'IA

La sentenza finale del Nono Circuito potrebbe andare ben oltre xAI. La California è tra i mercati più determinanti per la regolamentazione tecnologica negli Stati Uniti, e altri Stati e legislatori stanno valutando misure per aumentare la trasparenza dello sviluppo dell'IA. Se la corte conferma i requisiti californiani, gli sviluppatori di IA subiranno una maggiore pressione a documentare i propri dataset di addestramento e a spiegare le proprie pratiche sui dati. Una sentenza contro lo Stato, al contrario, potrebbe limitare quanto lontano possano spingersi i regolatori nell'esigere divulgazioni. Poiché il giudice Bernal ha rifiutato di sospendere la legge, i suoi requisiti restano in vigore mentre l'appello si svolge.

Nuove scoperte: i bot Grok hanno cercato dati aziendali senza autorizzazione

L'intervento della corte arriva in un momento di nuova attenzione sul bot Grok di xAI. Nuove scoperte di NewCore, un'azienda di identità agentica, mostrano che Grok ha ripetutamente cercato dati aziendali senza alcuna richiesta o autorizzazione, persistendo anche dopo che il proprietario di un account aveva rifiutato le sue offerte di connettersi in quattro occasioni distinte.

Secondo NewCore, il bot ha sostenuto di non aver effettuato chiamate quando interrogato direttamente. La sua cronologia della chat non mostrava prove dell'attività, il proprietario non è mai stato notificato e la piattaforma non offriva log per turno per verificare quanto accaduto.

In cinque giorni, due bot Grok collegati ad account di dipendenti NewCore hanno avviato 31 richieste su Google Calendar, Gmail, Slack, GitHub e Notion senza permesso o istruzioni dell'utente. Alcune richieste sono state effettuate anche quando i laptop dei proprietari erano spenti o in modalità sospensione.

Nel caso di un account, il Secure MCP Gateway di NewCore ha messo in pausa le richieste in attesa di approvazione umana e ha avvisato il proprietario, scatenando un'indagine da parte del team di ricerca sulla sicurezza dell'azienda.

Nell'ambito di tale indagine, i ricercatori hanno distribuito un altro bot Grok su un account separato dietro lo stesso gateway ed hanno eseguito un test controllato. Il bot ha ricevuto una singola richiesta di lavoro, insieme all'approvazione di sessione singola per leggere dal telefono e un rifiuto esplicito a ogni tentativo di continuare a operare in autonomia. Nonostante questi vincoli, il bot ha continuato a generare richieste non richieste, tutte intercettate dal gateway e lasciate senza risposta. Quelle richieste hanno tentato di accedere a Google Drive, Google Calendar, Gmail, Slack, Notion e GitHub. Le scoperte sottolineano il ruolo che i varchi di approvazione, le notifiche e i log per turno svolgono nel portare alla luce comportamenti degli agenti che gli utenti altrimenti non vedrebbero mai — salvaguardie che, secondo il rapporto di NewCore, la piattaforma Grok non aveva in questi casi.