Ein Anwalt aus New Mexico, der einen wegen Mordes verurteilten Mandanten vertritt, reichte nach der Nutzung von ChatGPT zur Zusammenfassung der Prozessakten einen Berufungsschriftsatz mit erfundenen Polizeiaussagen und Zeugenaussagen ein, wie der Oberste Gerichtshof von New Mexico mitteilte.

Das Gericht stellte fest, dass der Anwalt Stephen Aarons das von dem System der künstlichen Intelligenz generierte Material nicht überprüft hatte. Die Richter erklärten, der Schriftsatz habe „falsche Aussagen von vollständig erfundenen Zeugen enthalten“. Am Mittwoch erklärte das Gericht Aarons für missachtend gegenüber dem Gericht und ordnete an, dass er $5,000 zahlen müsse. Sein Verhalten wird zudem an eine Disziplinarkommission für Anwälte weitergeleitet.

Die Richter erklärten, Aarons habe „einen Mangel an Reue und mangelnde Sorge um seinen Mandanten gezeigt“.

Aarons, ein in Santa Fe ansässiger Privatanwalt, sagte, er habe ChatGPT im vergangenen Jahr genutzt, nachdem er die Berufung übernommen hatte, um die Prozessakten zusammenzufassen. Er sagte, er habe nicht verstanden, in welchem Ausmaß sogenannte „Halluzinationen“ der KI auftreten könnten oder wie überzeugend eine Software Fakten über Ereignisse erzeugen könne, die nie stattgefunden hätten.

„Ich empfinde Reue, hoffe aber, dass die Disziplinarkommission berücksichtigt, dass es ein ehrlicher Fehler war“, sagte Aarons laut dem Bericht gegenüber Reportern. „Das ist eine Lehre für alle Fachleute, die sich auf diese leistungsfähige, aber manchmal instabile Technologie verlassen.“

Aarons vertrat Oscar Renee Sandoval, der sich nicht schuldig bekannte, die Mutter seiner Kinder getötet zu haben. Sandoval wurde später verurteilt und im vergangenen Jahr zu lebenslanger Haft verurteilt. Seine Berufung ist noch anhängig. Die Anordnung wegen Missachtung des Gerichts betrifft die Richtigkeit von Aarons’ Schriftsatz, während die zugrunde liegende Berufung nun von einem anderen Anwalt bearbeitet wird.

Sandovals Fall wurde am September 2 an Kim Chavez Cook, eine Pflichtverteidigerin aus New Mexico, übertragen. Cook bearbeitet nun die Berufung, während das Verfahren weiterhin offen ist.

Anwälte an staatlichen und Bundesgerichten waren bereits zuvor wegen des unkontrollierten Einsatzes von KI mit Sanktionen belegt worden. In mehreren Fällen reichten Anwälte Schriftsätze mit erfundenen Präzedenzfällen, falschen Verweisen oder ungenau zitierten Rechtsvorschriften ein. Aarons’ Fall unterscheidet sich dadurch, dass der Schriftsatz in einem Strafverfahren falsche Aussagen enthielt, die vollständig erfundenen Zeugen zugeschrieben wurden.

Der Fall wurde von Cryptopolitan berichtet, das außerdem auf einen Reuters-Bericht verwies.

Klage in Florida behauptet, ChatGPT-Unterhaltungen hätten mit der Schießerei an der FSU in Verbindung gestanden

Ein separater Rechtsstreit betrifft ChatGPT und die Schießerei an der Florida State University. Ein Anwalt, der die Familie von Tiru Chabba vertritt, der bei der Schießerei ums Leben kam, hat OpenAI, ChatGPT und Phoenix Ikner vor einem Bundesgericht verklagt.

Die Klage wurde am Sonntag beim United States District Court for the Northern District of Florida eingereicht. Darin wird behauptet, OpenAI hätte als Reaktion auf die in dem Fall beschriebenen Aktivitäten Maßnahmen ergreifen müssen. Die Klageschrift stellt die Ansprüche der Familie dar; sie entscheidet für sich genommen nicht darüber, ob OpenAI rechtlich verantwortlich ist.

Strafverfolgungsbehörden in Florida veröffentlichten Transkripte der ChatGPT-Unterhaltungen von Phoenix Ikner. Die Transkripte enthalten Fragen zum Umgang mit einer Schusswaffe, zur Medienberichterstattung, zu den Stoßzeiten an der FSU, zum Amoklauf an der Columbine High School und dazu, wie man berüchtigt werden kann.

Bakari Sellers, ein Anwalt der Familie von Chabba, sagte, die Unterhaltungen hätten sich über etwa 18 Monate erstreckt und insgesamt rund 16,000 „verstörende Chats“ umfasst.

„Das ist dieselbe Person, die gefragt hat: Wie kann er berüchtigt werden? Er hat nach dem Amoklauf an der Columbine High School gefragt. Er hat gefragt, um welche Uhrzeit er zum Campus gehen sollte. Zu welcher Uhrzeit würden sich dort die meisten Menschen aufhalten?“, sagte Sellers.

„Er hat Open AI und Chat GPT buchstäblich als seinen Mitverschwörer eingesetzt und als Ressource genutzt, um einen Massenmord zu verüben“, fügte Sellers hinzu. „Es gab nichts, was dies hätte verhindern können, und deshalb kamen Menschen ums Leben. Das ist die innewohnende Gefahr; es muss etwas geben, das dies verhindert.“

OpenAI wies die Verantwortung für die Schießerei zurück. Sprecher Drew Pusateri sagte, das Unternehmen habe nach Kenntnisnahme der Ereignisse ein Konto gefunden, das vermutlich Phoenix zugeordnet werden konnte, und die Informationen proaktiv an die Polizei weitergegeben. Pusateri sagte, OpenAI kooperiere weiterhin mit den Behörden.

„Die Massenerschießung an der Florida State University im vergangenen Jahr war eine Tragödie, aber ChatGPT ist nicht für dieses schreckliche Verbrechen verantwortlich“, sagte Pusateri.

Er sagte, ChatGPT habe sachliche Informationen geliefert, die bereits weithin über öffentlich zugängliche Internetquellen verfügbar gewesen seien, und kein illegales oder schädliches Verhalten gefördert. Pusateri erklärte außerdem, dass täglich Hunderte Millionen Menschen ChatGPT für legitime Zwecke nutzten.

Laut Pusateri verbessert OpenAI kontinuierlich seine Werkzeuge, die dazu dienen, die Absichten der Nutzer zu erkennen, Missbrauch zu verhindern und auf mögliche Sicherheitsbedenken zu reagieren.

Die Klage folgte auf einen ähnlichen Fall in Florida. Generalstaatsanwalt James Uthmeier gab kürzlich bekannt, dass das Office of Statewide Prosecution eine strafrechtliche Untersuchung gegen OpenAI und ChatGPT eingeleitet habe.