Prawnik imigracyjny skierowany przed trybunał po wyroku karnym został skreślony z listy po wykorzystaniu dowodu wygenerowanego przez AI jako część własnej obrony.

Abhishek Kumar, 41 lat, zarejestrowany prawnik zagraniczny, został skierowany do Solicitors Disciplinary Tribunal (SDT) — niezależnego trybunału rozpatrującego sprawy wnioskowane przez Solicitors Regulation Authority (SRA) przeciwko solicitorom i zarejestrowanym prawnikom w Anglii i Walii — po wyroku z 2024 roku wydanym przez Central Criminal Court. Świadomie zatrudnił osobę dorosłą w trudnej sytuacji, która z powodu statusu imigracyjnego była wykluczona z prawa do pracy, i płacił jej „pod stołem”. Kumar został skazany na 12-miesięczny nakaz społeczny i 150 godzin pracy nieodpłatnej.

Broniąc się sam przed Trybunałem w następstwie regulacyjnym tego wyroku, Kumar złożył pisemną odpowiedź sporządzoną z pomocą AI, zawierającą wprowadzające w błąd cytaty i nieistniejące sprawy sądowe. Gdy regulator prawny, SRA, wykrył fałszywe przypisy, Kumar wysłał e-mail z wyjaśnieniami i przeprosinami — jednak ta wiadomość również została sporządzona przez AI i zawierała dalsze fałszywe treści.

Kumar przyznał, że jego działania naruszyły jedną z zasad SRA i że nie dopilnował ochrony wymiaru sprawiedliwości. Powiedział, że głęboko żałuje, iż jego „niedbałość technologiczna stworzyła ryzyko narcoticszenia zawodu”, ale zaprzeczył, jakoby jego postępowanie naruszyło zaufanie publiczne do zawodu. Twierdził, że nie zamierzał nikogo wprowadzać w błąd, a po prostu nie miał wiedzy niezbędnej do weryfikacji wyników AI.

Trybunał odrzucił jego tłumaczenia, orzekając, że szkoda wyrządzona przez jego naganne postępowanie była znaczna zarówno w przypadku naruszenia przepisów imigracyjnych, jak i nadużycia AI. SDT jasno stwierdził, że Kumar zostałby skreślony z listy niezależnie za przestępstwo imigracyjne albo za naganne postępowanie związane z AI. Zdecydowano o skreśleniu go z rejestru, co oznacza, że nie może już wykonywać zawodu prawnika.

Problem AI w usługach profesjonalnych

Sprawa oznacza pierwszy przypadek, w którym Trybunał zajął się kwestią halucynacji AI — skłonności narzędzi generatywnej AI do tworzenia wiarygodnie brzmiących, lecz sfabrykowanych treści, w tym przywołań spraw sądowych i cytatów, które nie istnieją.

W maju londyńska kancelaria Pinsent Masons została skrytykowana przez sędziego High Court po tym, jak prawnik przesłał do sądu pisma wygenerowane przez AI zawierające fałszywe informacje prawne. Kancelaria oświadczyła, że przekazała sprawę SRA, która prowadzi dalsze postępowanie.

W sierpniu organ nadzoru prawniczego wydał formalne ostrzeżenie dotyczące AI po otrzymaniu 42 zgłoszeń nadużycia AI i fałszywych przywołań sądowych, gdyż „halucynacja AI” nadal nęka branżę prawną i usług profesjonalnych. Ta historia wpisuje się w narastający wzorzec spraw w Anglii i Walii oraz poza nimi, w których sądy i regulatorzy sankcjonowali lub krytykowali prawników za składanie niezweryfikowanych materiałów generowanych przez AI — i sygnalizuje, że trybunały są gotowe traktować brak weryfikacji wyników AI jako poważne naganne postępowanie zawodowe samo w sobie.