Gericht in Arizona hebt zehnjährige Haftstrafe wegen KI-generiertem Video des Opfers auf, das „aus den Vorstellungen“ seiner Schwester entstand
Wichtige Erkenntnisse
- •Das Berufungsgericht von Arizona entschied, dass Gabriel Paul Horcasitas wegen der Tötung von Christopher Pelkey bei einem Verkehrsstreit im Jahr 2021 erneut verurteilt werden muss, weil das bei seiner Strafzumessung verwendete KI-generierte Opfer-Video als unzuverlässig eingestuft wurde.
- •Das Gericht stellte fest, dass das Video keine tatsächlichen Ereignisse dokumentierte, sondern das Opfer und seine Gedanken auf Grundlage der Vorstellungen seiner Schwester darstellte und erfundene Aussagen so präsentierte, als stammten sie direkt von ihm.
- •Pelkeys Familie erstellte unter Anleitung seiner Schwester Stacey Wales das KI-Abbild für die Anhörung zur Strafzumessung im Mai 2025. Nach allem, was bekannt ist, war dies die erste derartige Nutzung vor einem US-Gericht.
- •Die Anwältin von Horcasitas argumentierte, das Video habe den Anspruch auf ein ordnungsgemäßes Verfahren verletzt, sei nicht durch Beweise für die Ansichten des Opfers gestützt gewesen und habe ein unangemessenes emotionales Gewicht gehabt. Die Staatsanwaltschaft hielt es dagegen für eine zutreffende Darstellung von Pelkeys Charakter.
- •Stacey Wales erklärte, ihre Familie werde die Stimme des Opfers weiterhin auf gesetzlich zulässigen Wegen vermitteln, obwohl ein Anwalt gewarnt hatte, dass eine erneute Nutzung von KI eine weitere Berufung auslösen könnte.
Die zehnjährige Haftstrafe wegen Totschlags gegen einen Mann aus Arizona ist aufgehoben worden. Anlass war ein Fall, in dem ein durch künstliche Intelligenz erzeugtes Video das verstorbene Opfer kurz vor der Verkündung des Strafmaßes zeigte, wie es den Richter ansprach.
In einem am Mittwoch veröffentlichten Urteil kam das Berufungsgericht von Arizona zu dem Schluss, dass Gabriel Paul Horcasitas wegen der Tötung von Christopher Pelkey durch Schüsse im Jahr 2021 erneut verurteilt werden muss, da das KI-Video nicht zuverlässig war.
Das Gericht befand, dass das Video eine Grenze überschritten habe. Es spiegelte keine tatsächlichen Ereignisse wider und stellte Aussagen so dar, als stammten sie direkt vom Opfer.
„Tatsächlich dokumentiert das KI-Video weder ein Ereignis noch hält es einen bestimmten Moment fest, sondern zeigt eine Darstellung des Opfers und seiner Gedanken, die aus den Vorstellungen der Schwester des Opfers entstanden ist“, schrieb das dreiköpfige Richtergremium.
Jessica Gattuso, eine Anwältin, die in dem Fall Opfer vertreten hatte, und Kristen Reller, die Anwältin von Horcasitas, lehnten am Donnerstag eine Stellungnahme zu dem Urteil ab.
Reller hatte argumentiert, dass der Richter am Superior Court, Todd Lang, durch seine Berücksichtigung von KI-Beweismitteln den Anspruch auf ein ordnungsgemäßes Verfahren verletzt habe. Gattuso und die Staatsanwälte erklärten dem Berufungsgericht dagegen, der Richter der Vorinstanz habe keinen Fehler gemacht; das Video habe Pelkeys Charakter zutreffend dargestellt.
Nach allem, was bekannt ist, nutzte Pelkeys Familie erstmals vor einem US-Gericht KI, um ein Video mit seinem Abbild zu erstellen und ihm eine Stimme zu geben. Seine Schwester Stacey Wales hatte die Idee aufgebracht, ihren Bruder für sich selbst sprechen zu lassen, nachdem sie sich schwer damit getan hatte, herauszufinden, was er sagen würde.
Wales sagte, sie habe mit einer Berufung gegen das Strafmaß gerechnet und sei enttäuscht gewesen, dass das KI-Video als Grund dafür angeführt wurde. Ihr einziges Ziel sei es gewesen, ihren Bruder für den Richter menschlich darzustellen.
„Es fühlt sich unfair an, weil ein verurteilter Mörder im Gefängnis sitzt und Decken und Mauern des Schutzes um seine Rechte hat. Wo sind die Rechte des Opfers?“, sagte Wales.
Ein Anwalt für Opfer in Berufungsverfahren teilte der Familie mit, dass eine erneute Nutzung von KI zu einer weiteren Berufung führen könnte. „Wir werden seine Stimme weiterhin in jedem zulässigen Medium hörbar machen, das wir über das Gerichtssystem vermitteln können“, sagte Wales.
Die KI-generierte Erklärung zu den Auswirkungen des Verbrechens auf das Opfer wurde während einer Anhörung zur Strafzumessung im Mai 2025 abgespielt, nachdem neun Familienmitglieder und Freunde von Pelkey vor dem Richter geschildert hatten, wie sehr sie durch seine Tötung emotional erschüttert worden waren.
Nach Angaben der Behörden erschoss Horcasitas, 55, Pelkey, 37, während eines Verkehrsstreits im November 2021 an einer Ampel in Chandler, einem Vorort von Phoenix. Pelkey, der unbewaffnet war, wurde erschossen, nachdem er aus seinem Pick-up gestiegen und auf das Fahrzeug von Horcasitas zugegangen war.
Horcasitas wurde wegen Totschlags an Pelkey und wegen Gefährdung verurteilt, da ein Schuss während des Vorfalls an der Kreuzung ein anderes Fahrzeug getroffen hatte.
Das KI-Abbild von Pelkey sagte, er wünschte, weiterhin bei seinen Freunden und seiner Familie sein zu können, äußerte seinen Glauben an Vergebung und erklärte, es sei bedauerlich, dass Horcasitas ihm begegnet sei, denn „in einem anderen Leben wären wir wahrscheinlich Freunde gewesen“. Das Video forderte keine bestimmte Gefängnisstrafe.
Die Anwältin von Horcasitas im Berufungsverfahren argumentierte, ihr Mandant habe keine echte Möglichkeit gehabt, dem Inhalt des KI-generierten Videos entgegenzutreten. Unklar ist, ob die Anwälte oder das Gericht im Voraus wussten, dass ein KI-generiertes Video verwendet werden würde. Die Anwälte von Pelkeys Familie erklärten jedoch in Gerichtsunterlagen, dass das Recht von Arizona Opfer nicht dazu verpflichtet, den Staatsanwälten, Verteidigern oder dem Richter Aussagen offenzulegen, die sie vor Gericht machen wollen. Opfer könnten ihre Rechte ausüben, indem sie vor Gericht sprechen oder schriftliche Aussagen sowie Audio- oder Videoaufnahmen einreichen.
In einer Stellungnahme vom Donnerstag erklärte die Staatsanwaltschaft des Maricopa County, ihre Staatsanwälte hätten gewusst, dass Pelkeys Familie während der Strafzumessung vor Gericht sprechen würde, seien sich jedoch der Art der Präsentation nicht bewusst gewesen.
Der Einsatz von KI im Justizsystem nimmt zwar zu, war aber bislang meist auf Verwaltungsaufgaben, juristische Recherchen und die Vorbereitung von Verfahren beschränkt. In Arizona hat sie bereits dazu beigetragen, die Öffentlichkeit über Entscheidungen in bedeutenden Fällen zu informieren. Die Nutzung von KI zur Erstellung von Erklärungen zu den Auswirkungen eines Verbrechens auf Opfer ist jedoch ein neues Instrument, um dem Gericht außerhalb der Beweisaufnahme Informationen zu übermitteln.
Reller erklärte dem Berufungsgericht, das Video lege nicht offen, wer die von der KI-Version Pelkeys verwendeten Worte geschrieben habe, und es gebe keine Beweise dafür, dass sein Inhalt Pelkeys Ansichten zutreffend wiedergab. Außerdem habe das Video ein „unangemessenes emotionales Gewicht“ gehabt und eine Authentizität vermittelt, die nicht vorhanden gewesen wäre, wenn ein Familienmitglied dieselben Worte vorgelesen hätte, sagte sie.
Die Anwältin von Horcasitas argumentierte, der Richter habe die Aussagen aus dem KI-generierten Video bei der Festlegung des Strafmaßes berücksichtigt. Die Staatsanwälte erklärten dagegen, Lang habe das Video bei der Verkündung der Strafe nicht berücksichtigt. Kurz vor der Verkündung sagte der Richter, er „liebe diese KI“, erklärte aber nicht vom Richterstuhl aus, ob das Video seine Entscheidung beeinflusst habe. Lang sagte, er habe den Eindruck, Pelkeys „offensichtliche Vergebung von Herrn Horcasitas spiegelt den Charakter wider, von dem ich heute gehört habe“.
Die Anwälte der Familie erklärten, der Richter sei bereits vor dem Abspielen des KI-Videos mit relevanten Informationen von Pelkeys Familie und Freunden überhäuft worden und das Video habe nichts Aufrührerisches enthalten. Die Anwältin von Horcasitas legte keinen Einspruch gegen das KI-Video ein.
Dieser Beitrag wurde ursprünglich auf Fortune.com veröffentlicht.
