據新墨西哥州最高法院表示，一名代表已定罪謀殺犯的新墨西哥州律師在使用 ChatGPT 濃縮審判記錄後，提交了一份包含捏造警方陳述和證人說法的上訴書。

法院認定，律師 Stephen Aarons 未核實人工智慧系統生成的材料。法官表示，該份上訴書「包含來自完全捏造證人的虛假證詞」。法院於週三裁定 Aarons 藐視法庭，並命令其支付 $5,000 罰款。他的行為也將被移交律師紀律委員會處理。

法官表示，Aarons「表現出缺乏悔意，也不關心他的客戶」。

Aarons 是一名駐聖塔菲的私人律師。他表示，自己去年接手上訴案後，使用 ChatGPT 濃縮審判記錄。他說，自己並不了解 AI「幻覺」可能發生到如此廣泛的程度，也沒有意識到軟體能如此有把握地生成從未發生過的事件細節。

據報導，Aarons 對記者表示：「我感到悔恨，但希望紀律委員會能考慮到這是一次誠實的錯誤。」他說：「這是所有依賴這項強大、但有時不穩定技術的專業人士都應汲取的教訓。」

Aarons 代表 Oscar Renee Sandoval。Sandoval 否認殺害其子女的母親，之後被定罪，並於去年被判處終身監禁。他的上訴仍在審理中。藐視法庭命令涉及 Aarons 提交文件的準確性，而原有上訴目前已由另一名律師處理。

Sandoval 的案件於 September 2 轉交給新墨西哥州公設辯護律師 Kim Chavez Cook。案件仍在審理期間，Cook 現正負責該上訴。

此前，州法院和聯邦法院的律師也曾因不受控地使用 AI 而受到制裁。在數宗案件中，律師提交的上訴書包含捏造的案件、虛假的參考資料，或不準確引用的法律條文。Aarons 的案件之所以特殊，在於其提交的文件在刑事上訴程序中，將虛假證詞歸於完全捏造的證人。

該案件由 Cryptopolitan 報導，並連結至一篇 Reuters 報導。

佛羅里達州訴訟指稱 ChatGPT 對話與 FSU 槍擊案有關

另一宗法律爭議涉及 ChatGPT 與佛羅里達州立大學的槍擊案。一名代表槍擊案死者 Tiru Chabba 家屬的律師，已在聯邦法院起訴 OpenAI、ChatGPT 和 Phoenix Ikner。

這宗訴訟於週日向美國佛羅里達州北區聯邦地方法院提出。訴訟指稱，OpenAI 應針對案件所描述的活動採取行動。該文件提出的是家屬的主張；文件本身並未裁定 OpenAI 是否須承擔法律責任。

佛羅里達州執法官員公布了 Phoenix Ikner 的 ChatGPT 對話記錄。記錄包括如何操作槍械、媒體報導、FSU 最繁忙的時段、Columbine 槍擊案，以及如何讓自己聲名狼藉等問題。

Chabba 家屬的律師 Bakari Sellers 表示，這些對話持續約 18 個月，總數約為 16,000 次「令人不安的聊天」。

Sellers 表示：「這就是那個曾問過——你知道的——他要如何聲名狼藉的人。他問過 Columbine 槍擊案。他問過應該在什麼時間去校園？大多數人會在什麼時間到那裡？」

Sellers 補充說：「他確實把 OpenAI 和 ChatGPT 當成共謀者，將其作為執行大規模謀殺的資源。」「當時沒有任何措施阻止這件事發生，因此有人失去了生命。這就是其中固有的危險，必須設置某些措施來防止這種事情發生。」

OpenAI 否認須對槍擊案負責。發言人 Drew Pusateri 表示，公司得知事件經過後，找到一個相信與 Phoenix 有關聯的帳戶，並主動將相關資訊分享給警方。Pusateri 表示，OpenAI 仍在與當局合作。

Pusateri 表示：「去年佛羅里達州立大學發生的大規模槍擊案是一場悲劇，但 ChatGPT 不應對這起可怕罪行負責。」

他表示，ChatGPT 提供的是已透過公開網路來源廣泛流傳的事實材料，並未鼓勵非法或有害行為。Pusateri 也表示，每天有數億人基於正當目的使用 ChatGPT。

Pusateri 表示，OpenAI 持續改進相關工具，以識別用戶意圖、防止濫用，並在出現潛在安全疑慮時採取回應措施。

這宗訴訟是在佛羅里達州一宗類似案件之後提出。佛羅里達州檢察長 James Uthmeier 最近披露，州域檢察辦公室已對 OpenAI 和 ChatGPT 展開刑事調查。