Un avvocato del Nuovo Messico che rappresentava un omicida condannato ha presentato un atto d’appello contenente dichiarazioni di polizia e testimonianze di persone mai esistite dopo aver utilizzato ChatGPT per condensare gli atti processuali, secondo quanto riferito dalla Corte Suprema del Nuovo Messico.

La corte ha stabilito che l’avvocato Stephen Aarons non aveva verificato il materiale generato dal sistema di intelligenza artificiale. I giudici hanno affermato che l’atto “conteneva false testimonianze di persone completamente inventate”. Mercoledì la corte ha dichiarato Aarons colpevole di oltraggio e gli ha ordinato di pagare $5.000. La sua condotta sarà inoltre sottoposta a un organo disciplinare degli avvocati.

I giudici hanno affermato che Aarons aveva “dimostrato una mancanza di rimorso e di preoccupazione per il suo cliente”.

Aarons, un avvocato privato con sede a Santa Fe, ha dichiarato di aver utilizzato ChatGPT lo scorso anno, dopo aver assunto la gestione dell’appello, per condensare gli atti processuali. Ha detto di non aver compreso fino a che punto potessero spingersi le “allucinazioni” dell’IA né con quanta sicurezza il software potesse generare fatti relativi a eventi mai accaduti.

“Provo rimorso, ma spero che l’organo disciplinare tenga conto del fatto che si è trattato di un errore onesto”, ha dichiarato Aarons ai giornalisti, secondo quanto riportato. “È una lezione per tutti i professionisti che si affidano a questa tecnologia potente, ma a volte instabile.”

Aarons rappresentava Oscar Renee Sandoval, che si era dichiarato non colpevole dell’omicidio della madre dei suoi figli. Sandoval è stato successivamente condannato e l’anno scorso ha ricevuto una pena all’ergastolo. Il suo appello è ancora pendente. L’ordine di oltraggio riguarda l’accuratezza dell’atto presentato da Aarons, mentre l’appello sottostante è ora seguito da un altro legale.

Il caso di Sandoval è stato trasferito a Kim Chavez Cook, una difensora pubblica del Nuovo Messico, il September 2. Cook sta ora gestendo l’appello mentre il procedimento resta aperto.

In precedenza, avvocati di tribunali statali e federali hanno già subito sanzioni per l’uso incontrollato dell’IA. In diversi casi, i legali hanno presentato atti contenenti precedenti giudiziari inventati, riferimenti falsi o disposizioni di legge citate in modo inesatto. Il caso di Aarons si distingue perché l’atto includeva false testimonianze attribuite a persone completamente inventate nell’ambito di un appello penale.

Il caso è stato riportato da Cryptopolitan, che ha inoltre riportato un articolo di Reuters.

Una causa in Florida sostiene che le conversazioni su ChatGPT fossero collegate alla sparatoria alla FSU

Una controversia legale distinta riguarda ChatGPT e la sparatoria alla Florida State University. Un avvocato che rappresenta la famiglia di Tiru Chabba, morto nella sparatoria, ha citato in giudizio OpenAI, ChatGPT e Phoenix Ikner presso un tribunale federale.

La causa è stata depositata domenica presso la United States District Court for the Northern District of Florida. Sostiene che OpenAI avrebbe dovuto intervenire in risposta alle attività descritte nel procedimento. L’atto presenta le accuse della famiglia; di per sé non stabilisce se OpenAI sia legalmente responsabile.

Le autorità di polizia della Florida hanno diffuso le trascrizioni delle conversazioni di Phoenix Ikner su ChatGPT. Le trascrizioni includono domande su come usare una pistola, sulla copertura mediatica, sugli orari di maggiore affluenza alla FSU, sulla sparatoria di Columbine e su come diventare famosi per la propria infamia.

Bakari Sellers, l’avvocato della famiglia Chabba, ha dichiarato che gli scambi si sono protratti per circa 18 mesi e hanno totalizzato circa 16.000 “conversazioni inquietanti”.

“È la stessa persona che ha chiesto, sapete, come possa diventare famosa per la propria infamia. Ha chiesto della sparatoria di Columbine. Ha chiesto a che ora dovesse andare al campus. A che ora ci sarebbe stata la maggior parte delle persone?”, ha dichiarato Sellers.

“Ha utilizzato letteralmente OpenAI e ChatGPT come suoi co-cospiratori, usandoli come risorsa per compiere un omicidio di massa”, ha aggiunto Sellers. “Non c’era nulla che potesse impedirlo e quindi sono state perse delle vite. Questo è il pericolo intrinseco: deve esserci qualcosa che impedisca che ciò accada.”

OpenAI ha respinto ogni responsabilità per la sparatoria. Il portavoce Drew Pusateri ha dichiarato che la società ha individuato un account ritenuto associato a Phoenix dopo aver appreso quanto accaduto e ha condiviso proattivamente le informazioni con la polizia. Pusateri ha affermato che OpenAI continua a collaborare con le autorità.

“La sparatoria di massa dello scorso anno alla Florida State University è stata una tragedia, ma ChatGPT non è responsabile di questo terribile crimine”, ha dichiarato Pusateri.

Ha affermato che ChatGPT aveva fornito materiale fattuale già ampiamente disponibile su fonti internet pubbliche e non aveva incoraggiato comportamenti illegali o dannosi. Pusateri ha inoltre dichiarato che centinaia di milioni di persone utilizzano ChatGPT ogni giorno per scopi legittimi.

Secondo Pusateri, OpenAI migliora continuamente gli strumenti progettati per identificare le intenzioni degli utenti, prevenire gli abusi e rispondere a potenziali problemi di sicurezza.

La causa è stata intentata dopo un caso analogo in Florida. Il procuratore generale James Uthmeier ha recentemente reso noto che l’Office of Statewide Prosecution ha avviato un’indagine penale su OpenAI e ChatGPT.