Due utenti di ChatGPT della California hanno presentato un'azione collettiva contro OpenAI, sostenendo che l'azienda abbia consentito a fornitori esterni di leggere conversazioni reali degli utenti senza un'adeguata informativa. Il caso è stato depositato questo mese presso la Corte distrettuale degli Stati Uniti per il Distretto Settentrionale della California. OpenAI è stata notificata il 2 settembre e ha tempo fino al 13 ottobre per rispondere in tribunale.

La denuncia ruota attorno a "Project Lily," un programma interno di OpenAI in cui fornitori assunti tramite agenzie per il lavoro terze riassumono i prompt degli utenti e assegnano un punteggio alle risposte del chatbot su una scala da uno a sette. L'atto depositato in tribunale accusa l'azienda di aver instradato chat reali degli utenti a revisori esterni senza informare chiaramente prima gli utenti.

Secondo la denuncia, i fornitori assunti per ruoli come "AI data reviewer" e "chatbot evaluator" leggono prompt reali di ChatGPT e conversazioni complete, riassumono ciò che l'utente stava cercando di fare e poi assegnano un punteggio e una critica a quattro diverse risposte del modello su una scala da uno a sette.

Questo processo è una versione di base di come chatbot come ChatGPT migliorano effettivamente. Gli esseri umani valutano le risposte dell'IA, e tali valutazioni vengono reimmesse nell'addestramento affinché il modello apprenda quali risposte le persone preferiscono—una tecnica che il settore chiama apprendimento per rinforzo con feedback umano, o RLHF. L'accusa centrale della causa è che agli utenti non è mai stato chiarito che una persona, e non solo una macchina, potrebbe essere colui o colei che legge le loro chat. E poiché l'RLHF è una tecnica su cui conta l'intero settore, la controversia verte meno su come vengono addestrati i chatbot e più su quantoaramente le aziende debbano dichiarare che occhi umani possono posarsi sulle conversazioni degli utenti.

OpenAI fa effettivamente passare le conversazioni attraverso un sistema automatizzato prima che un essere umano le veda. Secondo la denuncia, il filtro non cattura sempre tutto, il che significa che dettagli personali a volte raggiungono comunque i fornitori.

Project Lily è stato reso noto per la prima volta dal sito 404 Media il 14 settembre. Secondo le sue rivelazioni, i revisori lavorano da una dashboard che include un "riepilogo delle memorie utente"—un riepilogo delle chat passate di una persona che può rivelare dettagli come la zona in cui vive, la professione o la vita privata, anche se i nomi utente vengono rimossi.

OpenAI ha dichiarato che le revisioni sono intese a contenere due comportamenti specifici: il chatbot che si comporta in modo troppo simile a un essere umano e il chatbot eccessivamente compiacente—una tendenza che i ricercatori chiamano sycophancy, in cui un'IA dice all'utente ciò che pensa voglia sentirsi dire anziché ciò che è accurato.

ChatGPT conta oltre 900 milioni di utenti settimanali, molti dei quali lo trattano come un diario, un terapeuta o un motore di ricerca che solo loro possono vedere. Le persone digitano sintomi di salute, messaggi di fine relazione, domande fiscali e problemi legali. La causa sostiene che l'informativa sulla privacy di OpenAI nomina alcune categorie di terze parti che hanno accesso ai dati degli utenti, ma non segnala mai specificamente tra queste i fornitori di annotazione dei dati o di valutazione umana.

La denuncia comprende otto distinte rivendicazioni legali, tra cui violazioni della legge californiana sulla concorrenza sleale e del suo Consumer Privacy Act, oltre a rivendicazioni di common law come l'intrusione nella riservatezza—un illecito privacy che copre l'immiscersi negli affari privati di qualcuno in un modo che una persona ragionevole troverebbe offensivo. Gli attori chiedono danni, restituzione e danni punitivi.

L'ingiunzione richiesta è specifica. Gli attori vogliono che OpenAI esiga il consenso esplicito prima che qualsiasi conversazione venga inviata a un revisore esterno, che l'impostazione "Improve the model for everyone" sia disattivata per impostazione predefinita invece che attivata, che venga aggiunto un avviso chiaro all'interno della finestra di chat stessa e, potenzialmente, che vengano eliminati i prodotti derivati legati alle conversazioni esaminate, riaddestrando qualsiasi modello li abbia utilizzati. Quell'interruttore esiste già oggi, ma è attivo per impostazione predefinita—quindi gli utenti che vogliono escludere le proprie chat da questo tipo di revisione attualmente devono trovarlo e disattivarlo soli.

Poiché la causa è ancora un'azione collettiva proposta, deve superare la certificazione della classe prima di poter procedere a nome del più ampio gruppo di utenti. La risposta di OpenAI è attesa entro il 13 ottobre.