在一宗人工智慧生成的影片呈現已故被害人於量刑前向法官喊話的案件中,亞利桑那州一名男子的10年過失致死刑期已被撤銷。

亞利桑那州上訴法院於週三公布的裁定中認定,Gabriel Paul Horcasitas就2021年槍殺Christopher Pelkey一案必須重新量刑,因為該AI影片不可靠。

法院認定該影片已越界,指出它並未反映真實事件,且將影片中的陳述呈現為彷彿直接出自被害人之口。

三名法官合議庭寫道:「確實,該AI影片並非記錄某個事件或特定時刻,而是呈現出一個出自被害人妹妹想像的被害人形象及其想法。」

代表本案被害人的律師Jessica Gattuso與Horcasitas的律師Kristen Reller週四均拒絕就此裁定發表評論。

Reller此前主張,高等法院法官Todd Lang依賴AI證據,違反正當法律程序保障。Gattuso與檢方則向上訴法院表示,原審法官並無過失,並稱該影片準確呈現了Pelkey的品格。

Pelkey的家屬利用AI製作他的肖像影片,讓他得以「親口」發聲,這被認為是美國法院的首例。他的妹妹Stacey Wales在苦思弟弟會說些什麼之後,提出了讓弟弟親自發聲的想法。

Wales表示,她預期判決會被上訴,並對AI影片被列為上訴理由感到失望,補充說她唯一的目的是讓法官感受到她弟弟作為一個真實的人。

Wales說:「這感覺很不公平,因為一個被定罪的殺人犯坐在監獄裡,權利卻被層層保護。被害人的權利在哪裡?」

一名被害人上訴律師已告知家屬,再次使用AI可能引發另一次上訴。Wales說:「我們將繼續透過法院體系中任何允許的方式,讓他的心聲被聽見。」

這段AI生成的被害人影響陳述於2025年5月的量刑證會上播放,此前Pelkey的九名親友站在法官面前,描述他的遇害讓他們在情感上承受多大的創痛。

當局表示,55歲的Horcasitas於2021年11月在鳳凰城郊區錢德勒(Chandler)的一個紅綠燈前,因公路暴力衝突開槍打死37歲的Pelkey。未攜帶武器的Pelkey在走下卡車、走向Horcasitas的車輛後遭到槍擊。

Horcasitas被判過失致死Pelkey,以及因衝突中一槍擊中路口另一輛車而被判危害安全罪。

AI版本的Pelkey表示,他希望自己仍能與親朋好友在一起,表達了寬恕的信念,並說Horcasitas遇上他是一件憾事,因為「在另一個人生裡,我們或許可以成為朋友」。影片並未要求特定的刑期。

Horcasitas的上訴律師主張,當事人沒有實質機會反駁AI生成影片中的內容。目前尚不清楚律師或法院是否事先知道將使用AI生成影片。不過,代表Pelkey家屬的律師在法庭文件中表示,亞利桑那州法律並不要求被害人向檢察官、辯護律師或法官披露他們打算在法庭上發表的陳述,且被害人可以透過在法庭上發言,或提交書面、錄音或錄影陳述來行使權利。

馬里科帕縣檢察官辦公室週四發表聲明稱,其檢察官知道被害人家屬將在量刑時向法庭陳述,但不知道陳述的性質。

AI在法院體系中的使用正在擴大,但通常僅限於行政事務、法律研究和案件準備。在亞利桑那州,AI已協助向公眾說明重大案件的裁定。然而,使用AI生成被害人影響陳述,標誌著在證據階段之外向法庭傳達資訊的一種新工具。

Reller向上訴法院表示,該影片並未披露AI版Pelkey所用文字的撰寫者是誰,也沒有證據佐證其內容確實反映了Pelkey的觀點。她說,該影片還帶有「不當的情感重量」,並傳達出一種若由家屬親自朗讀同樣文字便不會存在的真實感。

Horcasitas的律師主張,法官在決定量刑時考慮了AI生成影片中的陳述,但檢方則稱Lang在量刑時並未考慮該影片。就在宣判前不久,這位法官表示他「很喜歡那段AI」,但未在庭上說明影片是否影響了他的決定。Lang表示,他認為Pelkey「對Horcasitas先生顯而易見的寬恕,反映出我今天聽到的品格」。

家屬的律師表示,在AI影片播放之前,法官已經收到來自Pelkey親友的大量相關資訊,且影片中沒有任何煽動性內容。Horcasitas的律師並未對AI影片提出異議。

本文最初刊於Fortune.com