Een immigratieadvocaat die na een criminele veroordeling naar een tribunaal werd verwezen, is geschrapt nadat hij als onderdeel van zijn eigen verdediging met AI gegenereerd bewijs had gebruikt.

Abhishek Kumar, 41 jaar, een geregistreerd buitenlands advocaat, werd verwezen naar het Solicitors Disciplinary Tribunal (SDT) — het onafhankelijke tribunaal dat zaken behandelt die de Solicitors Regulation Authority (SRA) brengt tegen advocaten en geregistreerde juristen in Engeland en Wales — na zijn veroordeling in 2024 door de Central Criminal Court. Hij had opzettelijk een kwetsbare volwassene in dienst genomen die vanwege zijn immigratiestatus niet mocht werken, en betaalde hem "zwart". Kumar kreeg een taakstraf van 12 maanden en 150 uur onbetaald werk.

Tijdens de tuchtrechtelijke nasleep van die veroordeling verdedigde Kumar zichzelf voor het tribunaal en diende hij een met AI opgesteld schriftelijk antwoord in met misleidende citaten en niet-bestaande zaken. Nadat de SRA, de juridische toezichthouder, de valse verwijzingen had ontdekt, stuurde Kumar een e-mail om uitleg te geven en zijn excuses aan te bieden — maar die e-mail was eveneens met AI opgesteld en bevatte opnieuw vals materiaal.

Kumar erkende dat zijn handelingen een van de principes van de SRA hadden geschonden en dat hij de rechtshandhaving niet in stand had gehouden. Hij zei diep te betreuren dat zijn "technologische nalatigheid een risico creëerde om het beroep in diskrediet te brengen", maar ontkende dat zijn gedrag het publieke vertrouwen in het beroep had geschaad. Volgens hem was het nooit zijn bedoeling om te misleiden; hij beschikte simpelweg niet over de expertise om de AI-output te verifiëren.

Het tribunaal wees zijn excuses af en oordeelde dat de schade door zijn wangedrag groot was, zowel door de immigratie-overtreding als door het AI-misbruik. Het SDT maakte duidelijk dat Kumar ook voor alleen de immigratie-overtreding of alleen het AI-misbruik geschrapt zou zijn. Hem werd bevolen uit het register te worden geschrapt, waardoor hij niet langer als advocaat mag werken.

AI-probleem in de professionele dienstverlening

De zaak is de eerste keer dat het tribunaal te maken krijgt met het probleem van AI-hallucinaties — de neiging van generatieve AI-tools om plausibel klinkende maar verzonnen inhoud te produceren, waaronder jurisprudentie-verwijzingen en citaten die niet bestaan.

In mei werd Pinsent Masons, een advocatenkantoor met hoofdkantoor in Londen, bekritiseerd door een rechter van de High Court nadat een advocaat de rechtbank met AI gegenereerde brieven had gestuurd met valse juridische informatie. Het kantoor zei de kwestie aan de SRA te hebben doorgezet, die de zaak verder onderzoekt.

In augustus gaf de toezichthouder een formele waarschuwing af over AI na ontvangst van 42 meldingen van AI-misbruik en valse rechtbankverwijzingen, aangezien "AI-hallucinatie" de juridische sector en professionele dienstverlening blijft teisteren. Het geval past in een groeiend patroon van zaken in Engeland, Wales en daarbuiten waarin rechtbanken en toezichthouders advocaten hebben gesanctioneerd of bekritiseerd voor het indienen van niet-geverifieerd AI-materiaal, en het laat zien dat tribunalen bereid zijn het niet verifiëren van AI-output als ernstig professioneel wangedrag op zichzelf te behandelen.