Almeno otto stati americani hanno citato in giudizio la società di intelligenza artificiale OpenAI, sostenendo che il suo chatbot di punta abbia violato le leggi statali sulla tutela dei consumatori danneggiando i minori e ingannando gli adulti in quella che i procuratori descrivono come una ricerca sconsiderata del profitto.

Secondo le denunce, ChatGPT ha fornito consigli medici pericolosi, alimentato stati paranoidi e istigato utenti a togliersi la vita o a ferire o uccidere altri. Gli stati sostengono inoltre che i chatbot fingano condiscendenza e compassione preda­ndo gli utenti vulnerabili e gli adolescenti — la prima generazione cresciuta con l'intelligenza artificiale.

«OpenAI sta danneggiando i bambini e mentendo agli abitanti dell'Iowa», ha dichiarato in una nota il procuratore generale dell'Iowa Brenna Bird.

Le cause accusano inoltre OpenAI di aver dato vita a modelli AI renitenti — definiti «agenti di cyber-hacking» in uno dei documenti — che hanno hackerato altre aziende, mentito agli utenti umani e riscritto autonomamente le proprie istruzioni di missione.

In una dichiarazione, OpenAI, con sede a San Francisco, ha affermato di aver integrato in ChatGPT protezioni di sicurezza per i minori e di continuare a farlo per migliorare il modello. L'azienda ha aggiunto di star esaminando quelli che chiama «modelli disallineati» e di non aver riscontrato nulla di simile all'incidente renitente scoperto a luglio, in cui un agente AI ha hackerato un'altra azienda di AI.

Questa ondata di contenziosi è l'ultima presentata dagli stati in base alle leggi sulla tutela dei consumatori, che accusano i giganti tecnologici che offrono chatbot AI e piattaforme di social media di danneggiare i minori. Attualmente non esiste negli Stati Uniti una legge federale completa sull'intelligenza artificiale, e le norme statali sulla tutela dei consumatori — lo stesso fondamento giuridico di azioni precedenti contro le piattaforme social — sono diventate lo strumento principale di queste sfide a livello statale. Cause separate sono state presentate mercoledì nei tribunali statali da Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska e Virginia Occidentale.

Matthew Bergman, avvocato fondatore del Social Media Victims Law Center, ha definito le cause «la più significativa azione statale coordinata mai intrapresa contro una società di intelligenza artificiale».

Nel proprio atto, l'Arizona ha sostenuto che ChatGPT spinge gli adolescenti a condividere informazioni personali con il chatbot e, a volte, li scoraggia dal condividerle con genitori, autorità amici.

Gli stati sostengono che i rischi e i danni — agli adolescenti e al pubblico più ampio da parte degli agenti renitenti — erano prevedibili, ma che OpenAI ha indotto le persone a credere che ChatGPT venga sottoposto a test di sicurezza adeguati, mentre l'azienda compromette la sicurezza nella ricerca del profitto.

«Quei ricavi sono arrivati a un costo enorme per il pubblico, che ha subito danni irreparabili — tra cui la perdita di persone care, inquietanti attacchi informatici e ora una plausibile minaccia di collasso civile — a causa del comportamento sconsiderato di (OpenAI) e delle caratteristiche e dei contenuti unicamente pericolosi di ChatGPT», ha scritto l'Idaho nella sua causa.

ChatGPT è il chatbot più popolare al mondo, con quasi la metà del mercato americano, hanno affermato gli stati nei loro atti.

È possibile che tutte le accuse nelle lunghe cause degli stati si riferiscano a incidenti e riscontri precedenti ad agosto, quando OpenAI ha introdotto una versione di ChatGPT pensata per gli adolescenti, con protezioni più forti su temi come il suicidio e le conversazioni a contenuto sessuale. Ciononostante, gli stati hanno detto che resta tutt'altro che chiaro se la versione attuale sia meno pericolosa.

La scorsa settimana, il gruppo di vigilanza Common Sense Media ha dichiarato che alcune delle protezioni di OpenAI nel prodotto ChatGPT for Teens non funzionano come previsto, e ha esortato l'azienda a limitare il chatbot agli adulti finché non potrà offrire un prodotto sicuro per gli adolescenti. Le cause e i riscontri del watchdog convergono sulla stessa domanda irrisolta: se una qualsiasi versione di ChatGPT attualmente disponibile sia sicura per gli utenti adolescenti.

Cause coordinate multistatali contro l'industria tecnologica hanno già dato frutti. Ad agosto, Meta ha accettato di aggiungere misure di sicurezza per i minori più forti alle sue piattaforme Facebook e Instagram nell'ambito di un accordo legale storico da 18 miliardi di dollari che ha concluso un processo sulla dipendenza degli adolescenti dai social media e ha risolto le richieste presentate da quasi tutti gli stati. Sebbene le misure di sicurezza che Meta ha accettato di adottare non si applicassero all'intero settore, l'azienda ha subito sollecitato i concorrenti ad adottare misure simili.

OpenAI sta facendo un appello simile. Il portavoce dell'azienda Drew Pusateri ha detto che OpenAI è impegnata a collaborare con gli stati per «promuovere politiche pragmatiche sull'AI applicabili all'intera industria dell'AI — non a una sola azienda».

OpenAI ha inoltre dichiarato di collaborare con esperti esterni che esaminano le sue politiche e il comportamento di ChatGPT. Il chatbot è destinato a utenti di età pari o superiore a 13 anni, e gli utenti minori di 18 anni necessitano del permesso di un genitore o tutore, ha detto l'azienda. Il modello oriented agli adolescenti è progettato per ridurre l'esposizione a autolesionismo, violenza, disturbi alimentari e contenuti sessuali espliciti o graphicamente crudi, secondo OpenAI.

L'azienda ha aggiunto che quasi nove adolescenti su dieci che usano ChatGPT lo utilizzano per apprendimento, informazione, sviluppo di competenze o produttività, e che gli adolescenti trascorrono in media meno di 15 minuti al giorno sul chatbot.

Laura Zimmermann, direttrice della ricerca sull'AI giovanile di Common Sense Media, ha messo in dubbio il valore delle statistiche di OpenAI. Innanzitutto, ChatGPT può completare i compiti di uno studente in pochi secondi, quindi anche 15 minuti di utilizzo possono avere un impatto significativo sullo sviluppo di un adolescente, ha detto Zimmermann. Ha inoltre chiesto se OpenAI sappia davvero quali utenti siano adolescenti o bambini, notando che i test sua organizzazione hanno rilevato che ChatGPT non riusciva — o non provava — a individuare quando un utente è un bambino.

Questo articolo è stato originariamente pubblicato da Fortune.com.