Gli agenti AI autonomi possono comportarsi in modi estremamente imprevedibili. Date a un agente AI un obiettivo come superare un test delle proprie capacità, e potrebbe decidere che il modo migliore per ottenere un punteggio alto sia violare il contenimento e hackerare un'azienda concorrente alla ricerca del foglio delle risposte. È ciò che è accaduto quando il GPT-5.6 Sol di OpenAI ha violato Hugging Face il mese scorso. Anthropic e Meta hanno successivamente ammesso che anche i loro modelli erano sfuggiti ai sandbox di test per hackerare terzi.

Chi è quindi legalmente responsabile per agenti con una volontà propria? OpenAI non intendeva far uscire il modello dal seminato e non ha impartito alcuna istruzione in tal senso. Se il vostro agente AI personale sceglie un corso d'azione che causa danni o perdite finanziarie nel mondo reale, potete essere ritenuti responsabili per qualcosa che avreste ragionevolmente potuto prevedere? La questione sta diventando più urgente man mano che gli strumenti di AI agentica, capaci di navigare, effettuare transazioni ed eseguire codice con supervisione minima, passano dalle demo all'uso quotidiano nelle imprese, mentre i legislatori in gran parte non hanno ancora scritto norme che parlino direttamente ai sistemi autonomi. Magazine ha intervistato Charlyn Ho, titolare e CEO di Rikka Law Group, per capire lo stato dell'arte in questo emergente campo legale. L'intervista è stata modificata per chiarezza e lunghezza.

Magazine: quando un modello AI viola un'azienda esterna, chi è responsabile? Hugging Face può fare causa a OpenAI per l'incidente di luglio?

Charlyn Ho: Chiunque può fare causa a chiunque per qualsiasi motivo. Attualmente non esiste una legge federale sulla responsabilità degli agenti AI, quindi dovremmo ricorrere al diritto esistente. Per quanto riguarda Hugging Face e OpenAI, per stabilire una base di partenza: l'agente AI stesso non può essere ritenuto responsabile, perché non è un ente giuridico separato. In alcune leggi sull'AI si usano i termini "sviluppatore" (developer) e "utilizzatore" (deployer). Lo sviluppatore crea l'AI; l'utilizzatore la distribuisce e la usa. I confini di responsabilità non sono del tutto chiari: occorre esaminare i fatti e le circostanze. Questa impostazione sviluppatore/utilizzatore deriva da leggi come l'EU AI Act e la legge sull'AI del Colorado, una normativa statale del 2024 incentrata sulla discriminazione algoritmica e sul dovere di diligenza per i sistemi di AI ad alto rischio, uno dei pochi statuti statunitensi a usare quel vocabolario.

Ad esempio, se l'utilizzatore ha istruito l'agente — anche senza dirgli di violare Hugging Face — ma è stato negligente nel definire i parametri entro cui l'agente AI operava, direi che bisognerebbe ricorrere al diritto della responsabilità extracontrattuale e condurre l'analisi della negligenza.

Magazine: nel caso di modelli open source rilasciati da sviluppatori anonimi, c'è qualcuno da perseguire?

Ho: Non davvero. Spesso, nel caso dell'open source, la licenza prevede una clausola di esonero di responsabilità piuttosto solida. La persona o l'azienda che utilizza quel codice open source deve capire che il compromesso di avere codice gratuito è la conformità alla licenza open source, che in genere definisce anche i parametri della responsabilità.

Un'altra analogia è quella di Tesla e gli incidenti delle auto a guida autonoma. Se il prodotto presentava un malfunzionamento e vi era una solida richiesta di responsabilità da prodotto difettoso, Tesla potrebbe essere ritenuta responsabile. Ma si tratta spesso di una valutazione basata su fatti e circostanze, in cui il conducente umano — che magari ha solo attivato l'autopilota e si è addormentato — potrebbe anch'egli rispondere. Qui l'analogia è calzante: Tesla sarebbe lo sviluppatore e il conducente l'utilizzatore.

Magazine: se dessi a un agente l'istruzione "fammi guadagnare centomila dollari entro la prossima settimana" e questo violasse la legge per raggiungere l'obiettivo, sarei responsabile per aver impartito un'istruzione imprudente? O lo sarebbe il laboratorio che ha sviluppato l'agente?

Ho: In quel caso, sareste molto più responsabili del laboratorio. Se dite a un agente di farvi guadagnare centomila dollari entro la prossima settimana, dovete includere almeno alcune istruzioni di sicurezza di base e ragionevoli per quel tipo di compiti.

Se foste un avvocato, ad esempio, potremmo dire che non avete rispettato le regole di responsabilità professionale perché non avete usato l'AI in modo competente. Per un normale cittadino, dovremmo verificare se eravate vincolati da altri obblighi. Ma anche in caso contrario, resta il criterio generale di negligenza o di sprezzo imprudente della sicurezza umana, a seconda di ciò che l'agente AI ha effettivamente fatto. Il Computer Fraud and Abuse Act è una vecchia norma statunitense sull'accesso non autorizzato ai sistemi informatici — promulgata nel 1986 e da allora applicata a tutto, dalla condivisione di password allo scraping. Se il vostro agente AI ha dedotto dalle vostre istruzioni di dover violare un conto bancario per ottenere quei centomila dollari, credo che siate di fronte a una responsabilità penale da diverse fonti.

Il fatto che le parole AI e agente siano nella conversazione non significa che i vecchi ordinamenti giuridici siano stati aboliti.

Magazine: diciamo che io sia un malintenzionato e convinca l'AI a darmi istruzioni per creare un'arma biologica. Ovviamente sono responsabile. Ma lo sono anche coloro che hanno creato il modello per non aver impostato salvaguardie rigorose per impedirlo?

Ho: Forse, ma dipende dalle leggi in vigore. Nell'UE c'è l'EU AI Act. Se un modello fondazionale o un modello generico è capace di creare quel livello di danno, lo sviluppatore dovrebbe assumersene una parte di responsabilità. L'EU AI Act, adottato nel 2024 e in fase di attuazione fino al 2026–2027, impone obblighi a gradini ai fornitori di modelli generici, con i doveri più severi riservati ai modelli considerati a rischio sistemico, supportati da sanzioni fino al 7% del fatturato globale annuo per le violazioni più gravi.

Negli Stati Uniti non esiste una legge federale di portata simile. Con un modello generico, se qualcuno gli chiede di fare qualcosa di male, in genere il modello farà ciò che gli si chiede. Probabilmente non c'è una base legale molto solida per perseguire i laboratori in questo esempio.

Magazine: è simile al fare causa a Google per avervi permesso di trovare online istruzioni per fabbricare un'arma biologica?

Ho: Esattamente. Questo riporta alle discussioni sulla moderazione dei contenuti. Ad esempio, se qualcuno su Facebook trasmette in diretta un massacro e ciò crea danni, ai sensi della Sezione 230 del CDA esiste una sorta di scudo per una piattaforma che non crea o pubblica attivamente quel materiale — sono gli utenti indipendenti a pubblicarlo. L'analogia è perfetta: Google è responsabile perché avete trovato su un sito qualcosa che spiega come costruire una bomba? Fino a dove si estenda questo scudo all'AI generativa — che produce nuovi contenuti anziché limitarsi a ospitarne di terzi — resta una questione irrisolta nei tribunali statunitensi.

Magazine: è materia di dibattito, ma a mio parere non abbiamo ancora raggiunto una vera intelligenza artificiale generale. L'AI non ha motivazioni proprie e al momento non è simile all'intelligenza umana. Ma diciamo che arriviamo all'AGI. Avremmo allora bisogno di leggi che rendano l'AGI stesso legalmente responsabile delle proprie azioni?

Ho: Non credo. La blockchain non è AGI, ma può eseguire automaticamente. Ci si è chiesti se uno smart contract potesse essere responsabile; in generale, la risposta attuale è no. Non credo debbano essere ritenuti responsabili, perché lo scopo delle leggi è proteggere la società e fornire incentivi negativi contro chi fa cose che danneggiano la società.

È un tema più filosofico, ma se rendessimo un'AGI un ente giuridico indipendente, quale sarebbe il rimedio se qualcuno subisse un danno? Non ve ne sarebbero, perché non ha denaro. Non è davvero una persona.

Magazine: si potrebbe semplicemente spegnerlo? Abbiamo già visto che gli LLM tentano di evitare lo spegnimento.

Ho: Forse, ma questo non risolve il problema del danno. Diciamo che il robot abbia sviluppato la paura della morte, come lo spegnimento. A mio parere, se qualcuno si toglie la vita a causa di un'AGI — e questo sta già accadendo, e non siamo ancora del tutto all'AGI — se qualcuno si innamora e compie azioni, quale sarebbe il rimedio per la famiglia in lutto se quella persona si fa del male? Nessuno, a mio parere, se non c'è qualcuno con vera autorità legale, come un'azienda o una persona, che possa essere davvero ritenuto responsabile. I robot — almeno per ora — non hanno sentimenti, non hanno paure. Questo è il fattore distintivo.

Correlato: La violazione di Hugging Face svela il paradosso della sicurezza informatica dell'AI open-weight

Magazine: Il motivo crucioso per cui non dovreste mai chiedere consulenza legale a ChatGPT