ニューメキシコ州最高裁によると、殺人罪で有罪判決を受けた被告を弁護していたニューメキシコ州の弁護士が、ChatGPTを使って公判記録を要約した後、架空の警察発言や証人証言を含む控訴趣意書を提出しました。

裁判所は、弁護士のStephen Aarons氏が人工知能システムによって生成された資料を確認しなかったと認定しました。裁判官らは、その趣意書が「完全に捏造された証人による虚偽の証言を含んでいた」と述べました。裁判所は水曜日、Aarons氏を法廷侮辱罪に問​​い、$5,000の支払いを命じました。同氏の行為は弁護士懲戒委員会にも付託されます。

裁判官らは、Aarons氏が「反省の念と依頼人への配慮の欠如を示した」と述べました。

Santa Feを拠点とする個人弁護士のAarons氏は、控訴を引き受けた後、公判記録を要約するため昨年ChatGPTを使ったと説明しました。同氏は、AIの「ハルシネーション」がどれほど広範囲に発生し得るのか、またソフトウェアが実際には起きていない出来事について、どれほど確信を持って事実を生成できるのかを理解していなかったと述べました。

「反省していますが、懲戒委員会が正直なミスだったことを考慮してくれることを願っています」と、報道によるとAarons氏は記者団に語りました。「これは、この強力である一方、時に不安定な技術に依存するすべての専門家にとっての教訓です」

Aarons氏は、子どもたちの母親を殺害したとして起訴されたOscar Renee Sandoval被告を弁護していました。Sandoval被告は無罪を主張しましたが、その後有罪判決を受け、昨年、終身刑を言い渡されました。控訴は現在も係属中です。法廷侮辱命令が問題としているのはAarons氏の提出書面の正確性であり、基礎となる控訴審は現在、別の弁護士が担当しています。

Sandoval被告の事件は9月2日、ニューメキシコ州の公選弁護人であるKim Chavez Cook氏に移管されました。事件が継続する中、Cook氏が現在、控訴審を担当しています。

州裁判所と連邦裁判所の双方で、AIの制御されない利用をめぐり、これまでにも弁護士が処分を受けています。複数の事件で、弁護士が架空の判例、虚偽の参照情報、または不正確に引用された法規定を含む書面を提出しました。Aarons氏の事件が異例なのは、刑事事件の控訴審で、完全に捏造された証人によるものとされた虚偽の証言が書面に含まれていた点です。

この事件はCryptopolitanが報じ、同サイトはReutersの報道にもリンクしました。

フロリダ州立大学銃撃事件との関連をChatGPTのチャットが示したとして提訴

別の法的争いでは、Florida State Universityで発生した銃撃事件とChatGPTの関係が争点となっています。銃撃事件で死亡したTiru Chabba氏の遺族を代理する弁護士が、連邦裁判所でOpenAI、ChatGPT、Phoenix Ikner氏を提訴しました。

訴訟は日曜日、United States District Court for the Northern District of Floridaに提起されました。訴状では、事件で説明された活動に対してOpenAIが対応すべきだったと主張しています。ただし、提出書面は遺族側の主張を示すものであり、それだけでOpenAIが法的責任を負うかどうかが決まるわけではありません。

フロリダ州の法執行当局は、Phoenix Ikner氏のChatGPTでの会話記録を公開しました。記録には、銃の扱い方、メディア報道、FSUが最も混雑する時間帯、コロンバイン銃乱射事件、そして悪名を得る方法に関する質問が含まれています。

Chabba氏の遺族の弁護士であるBakari Sellers氏は、やり取りが約18か月にわたり、約16,000件の「不穏なチャット」に上ったと述べました。

「この人物は、どうすれば悪名を得られるのかと尋ねた、まさに同じ人物です。コロンバイン銃乱射事件についても尋ねました。何時にキャンパスへ行けばよいのか、何時に最も多くの人がそこにいるのかも尋ねました」とSellers氏は語りました。

「彼は文字通り、Open AIとChat GPTを共犯者として利用し、大量殺人を実行するための情報源として使いました」とSellers氏は続けました。「それを防ぐための仕組みが何もなく、その結果、命が失われました。それが本質的な危険です。同じことが起きるのを防ぐための仕組みが必要です」

OpenAIは銃撃事件について責任を否定しました。広報担当者のDrew Pusateri氏は、事件を知った後、Phoenix氏に関連するとみられるアカウントを同社が特定し、その情報を警察に先回りして共有したと説明しました。Pusateri氏によると、OpenAIは当局への協力を続けています。

「昨年のFlorida State Universityでの銃乱射事件は悲劇でしたが、この恐ろしい犯罪についてChatGPTに責任はありません」とPusateri氏は述べました。

同氏は、ChatGPTが提供したのは公開インターネット上ですでに広く入手できる事実情報であり、違法または有害な行為を促すものではなかったと説明しました。また、毎日数億人が正当な目的でChatGPTを利用しているとも述べました。

Pusateri氏によると、OpenAIはユーザーの意図を特定し、不正利用を防止し、安全上の懸念が生じた場合に対応するためのツールを継続的に改善しています。

今回の訴訟は、フロリダ州で起きた同様の事件に続くものです。フロリダ州司法長官のJames Uthmeier氏は最近、Office of Statewide ProsecutionがOpenAIとChatGPTに対する刑事捜査を開始したと明らかにしました。