Un avvocato specializzato in diritto dell'immigrazione, deferito a un tribunale in seguito a una condanna penale, è stato radiato dopo aver usato prove generate dall'IA come parte della propria difesa.

Abhishek Kumar, 41 anni, avvocato straniero registrato, è stato deferito al Solicitors Disciplinary Tribunal (SDT) — il tribunale indipendente che esamina i casi presentati dalla Solicitors Regulation Authority (SRA) contro avvocati e professionisti legali registrati in Inghilterra e Galles — in seguito alla sua condanna del 2024 presso la Central Criminal Court. Aveva impiegato consapevolmente un adulto vulnerabile escluso dal lavoro a causa del suo status immigratorio, pagandolo «in nero». Kumar è stato condannato a un ordine di servizio alla comunità di 12 mesi e a 150 ore di lavoro non retribuito.

Difendendosi da solo dinanzi al Tribunale per le conseguenze regolamentari di quella condanna, Kumar ha presentato una risposta scritta redatta con l'IA che conteneva citazioni fuorvianti e casi inesistenti. Dopo che la SRA, l'organo di regolamentazione legale, ha individuato le citazioni false, Kumar ha inviato un'email al tribunale per spiegare e scusarsi — ma anche quell'email era stata redatta con l'IA e conteneva ulteriore materiale falso.

Kumar ha riconosciuto che le sue azioni avevano violato uno dei principi della SRA e che non aveva tutelato l'amministrazione della giustizia. Ha dichiarato di rammaricarsi profondamente che la sua «negligenza tecnologica abbia creato un rischio di portare la professione in discredito», ma ha negato che la sua condotta avesse leso la fiducia e la fiducia del pubblico nella professione. Ha affermato di non aver avuto alcuna intenzione di ingannare e di non avere semplicemente le competenze per verificare l'output dell'IA.

Il Tribunale ha respinto le sue giustificazioni, stabilendo che il danno causato dalla sua condotta era elevato sia per la violazione in materia di immigrazione sia per l'uso improprio dell'IA. Il SDT ha chiarito che Kumar sarebbe stato radiato per il solo reato di immigrazione o per il solo uso improprio dell'IA, indipendentemente. È stato disposto che fosse radiato dal registro, il che significa che non può più esercitare la professione legale.

Il problema dell'IA nei servizi professionali

Il caso segna la prima volta in cui il Tribunale si è occupato della questione delle allucinazioni dell'IA — la tendenza degli strumenti di IA generativa a produrre contenuti plausibili ma inventati, tra cui citazioni di casi e passaggi che non esistono.

A maggio, lo studio legale Pinsent Masons, con sede a Londra, è stato criticato da un giudice della High Court dopo che un avvocato aveva inviato al tribunale lettere generate dall'IA contenenti informazioni legali false. Lo studio ha dichiarato di aver segnalato la questione alla SRA, che sta indagando ulteriormente.

Ad agosto, l'organo di vigilanza legale ha emesso un avviso formale sull'IA dopo aver ricevuto 42 segnalazioni di uso improprio dell'IA e citazioni giudiziarie false, mentre l'«allucinazione dell'IA» continua ad affliggere il settore legale e dei servizi professionali. L'episodio si aggiunge a un crescente schema di casi in Inghilterra e Galles e altrove in cui tribunali e regolatori hanno sanzionato o criticato avvocati per aver presentato materiale generato dall'IA non verificato, e segnala che i tribunali sono pronti a considerare la mancata verifica dell'output dell'IA come grave illecito professionale a pieno titolo.