刑事有罪判決を受け裁判所に付託された移民法専門弁護士が、自身の弁護の一環としてAI生成の証拠を使用した結果、除名処分となった。

登録外国人弁護士のアビシェック・クマール氏(41歳)は、2024年に中央刑事裁判所で有罪判決を受けた後、事務弁護士懲戒裁判所(SDT)——イングランドおよびウェールズの弁護士および登録弁護士に対する事務弁護士規制庁(SRA)の案件を審理する独立裁判所——に付託された。同氏は、移民資格を理由に就労資格を剥夺された脆弱な成人を知りながら雇用し、「現金払い」で報酬を支払っていた。クマール氏には12か月の社会内処分命令と150時間の無報酬労働が科された。

その有罪判決に伴う規制上の手続きで自らを弁護したクマール氏は、誤解を招く引用と実在しない判例を含む、AIで作成された書面回答を提出した。法規制当局であるSRAが虚偽の引用を特定した後、クマール氏は説明と謝罪のメールを裁判所に送ったが、そのメールもAIで作成されており、さらなる虚偽内容が含まれていた。

クマール氏は、自らの行為がSRAの原則の一つに違反し、司法の適正な運営を維持しなかったことを認めた。同氏は「技術的な過失が職業の信用を毀損するリスクを作り出した」ことを深く後悔していると述べた一方、自身の行為が職業に対する公衆の信頼を損なったことは否定した。誤解させる意図はなく、AIの出力を検証する専門知識がなかっただけだと主張した。

しかし裁判所はこれらの弁明を退け、移民法違反とAI悪用の両面において、同氏の不正行為がもたらした損害は重大だと判断した。SDTは、移民法違反またはAIに関わる不正行為のいずれか一方のみでもクマール氏は除名対象となっていたことを明確にした。同氏は登録簿からの除名を命じられ、今後法律業務に従事することはできない。

専門サービス業界におけるAIの問題

本件は、SDTが「AIハルシネーション」問題に初めて向き合った事案である。AIハルシネーションとは、生成AIツールが、実在しない判例の引用や引用文を含め、もっともらしいが捏造されたコンテンツを生成する傾向を指す。

5月には、ロンドンに本社を置く法律事務所ペインセント・メイソンズが、弁護士が虚偽の法律情報を含むAI生成の書簡を裁判所に送ったとして、高等裁判所判事から批判された。同事務所はこの件をSRAに通報しており、SRAが現在さらに調査を進めている。

8月には法規制当局が、AI悪用および偽の判例引用に関する42件の通報を受け、AIに関する正式な警告を発出した。「AIハルシネーション」は法律・専門サービス業界で引き続き深刻な問題となっている。本件は、イングランド・ウェールズおよびその他の地域で、未検証のAI生成資料を提出した弁護士が裁判所や規制当局から制裁・批判されてきた一連の事例に新たに加わるものであり、AI出力の検証を怠ったことをそれ自体として重大な職務上の不正行為とみなす姿勢を裁判所が示しつつあることを示している。