Een advocaat uit New Mexico die een veroordeelde moordenaar vertegenwoordigde, diende een beroepschrift in met verzonnen politieverklaringen en getuigenverklaringen nadat hij ChatGPT had gebruikt om het procesdossier samen te vatten, aldus het Hooggerechtshof van New Mexico.

Het hof stelde vast dat advocaat Stephen Aarons het door het systeem voor kunstmatige intelligentie gegenereerde materiaal niet had gecontroleerd. De rechters zeiden dat het beroepschrift “valse getuigenverklaringen van volledig verzonnen getuigen bevatte”. Woensdag verklaarde het hof Aarons schuldig aan minachting van de rechtbank en beval het hem $5.000 te betalen. Zijn handelen wordt ook voorgelegd aan een tuchtraad voor advocaten.

De rechters zeiden dat Aarons “een gebrek aan berouw en een gebrek aan bezorgdheid om zijn cliënt had getoond”.

Aarons, een zelfstandig advocaat uit Santa Fe, zei dat hij ChatGPT vorig jaar had gebruikt nadat hij het hoger beroep had overgenomen om het procesdossier samen te vatten. Hij zei dat hij niet begreep hoe uitgebreid AI-“hallucinaties” konden optreden of hoe overtuigend software feiten over nooit gebeurde gebeurtenissen kon genereren.

“Ik heb berouw, maar hoop dat de tuchtraad rekening houdt met het feit dat het een eerlijke vergissing was,” zei Aarons volgens het bericht tegen verslaggevers. “Het is een geleerde les voor alle professionals die vertrouwen op deze krachtige maar soms instabiele technologie.”

Aarons vertegenwoordigde Oscar Renee Sandoval, die onschuldig pleitte aan de moord op de moeder van zijn kinderen. Sandoval werd later veroordeeld en vorig jaar tot levenslange gevangenisstraf veroordeeld. Zijn hoger beroep loopt nog. De minachtingsbeschikking heeft betrekking op de nauwkeurigheid van Aarons’ processtuk, terwijl het onderliggende hoger beroep nu door een andere advocaat wordt behandeld.

De zaak van Sandoval werd op 2 september overgedragen aan Kim Chavez Cook, een openbaar verdediger in New Mexico. Cook behandelt nu het hoger beroep zolang de zaak open blijft.

Advocaten in zowel staatsrechtbanken als federale rechtbanken zijn eerder bestraft wegens ongecontroleerd gebruik van AI. In meerdere zaken dienden advocaten processtukken in met verzonnen rechtszaken, onjuiste verwijzingen of verkeerd geciteerde wettelijke bepalingen. De zaak van Aarons is onderscheidend omdat het processtuk valse getuigenverklaringen bevatte die aan volledig verzonnen getuigen werden toegeschreven in een strafrechtelijk hoger beroep.

De zaak werd gemeld door Cryptopolitan, dat ook verwees naar een Reuters-bericht.

Rechtszaak in Florida stelt dat ChatGPT-gesprekken verband hielden met schietpartij op FSU

Een afzonderlijk juridisch geschil betreft ChatGPT en de schietpartij aan de Florida State University. Een advocaat die de familie van Tiru Chabba vertegenwoordigt, die bij de schietpartij om het leven kwam, heeft OpenAI, ChatGPT en Phoenix Ikner voor de federale rechter gedaagd.

De rechtszaak werd zondag aangespannen bij de United States District Court for the Northern District of Florida. Volgens de aanklacht had OpenAI moeten ingrijpen naar aanleiding van de in de zaak beschreven activiteiten. De indiening geeft de standpunten van de familie weer; daarmee staat op zichzelf nog niet vast of OpenAI juridisch verantwoordelijk is.

De politiediensten in Florida hebben transcripties vrijgegeven van de ChatGPT-gesprekken van Phoenix Ikner. De transcripties bevatten vragen over het gebruik van een vuurwapen, berichtgeving in de media, de drukste tijden op FSU, de schietpartij op Columbine en hoe hij berucht kon worden.

Bakari Sellers, advocaat van de familie van Chabba, zei dat de gesprekken zich over ongeveer 18 maanden uitstrekten en in totaal circa 16.000 “verontrustende chats” omvatten.

“Dit is dezelfde persoon die vroeg: hoe kan hij berucht worden? Hij vroeg naar de schietpartij op Columbine. Hij vroeg hoe laat hij naar de campus moest gaan. Op welk tijdstip zouden de meeste mensen daar zijn?” zei Sellers.

“Hij gebruikte OpenAI en ChatGPT letterlijk als zijn medeplichtige en als hulpmiddel om een massamoord uit te voeren,” voegde Sellers eraan toe. “Er was niets geregeld om dat te voorkomen en daardoor zijn levens verloren gegaan. Dat is het inherente gevaar; er moet iets worden ingesteld om te voorkomen dat dit gebeurt.”

OpenAI wees verantwoordelijkheid voor de schietpartij van de hand. Woordvoerder Drew Pusateri zei dat het bedrijf, nadat het had vernomen wat er was gebeurd, een account had gevonden waarvan werd aangenomen dat het aan Phoenix was gekoppeld en de informatie proactief met de politie had gedeeld. Pusateri zei dat OpenAI met de autoriteiten blijft samenwerken.

“De massaschietpartij aan de Florida State University vorig jaar was een tragedie, maar ChatGPT is niet verantwoordelijk voor deze verschrikkelijke misdaad,” zei Pusateri.

Hij zei dat ChatGPT feitelijk materiaal had verstrekt dat al breed beschikbaar was via openbare internetbronnen en geen illegaal of schadelijk gedrag had aangemoedigd. Pusateri zei ook dat honderden miljoenen mensen ChatGPT dagelijks voor legitieme doeleinden gebruiken.

Volgens Pusateri verbetert OpenAI voortdurend de hulpmiddelen die bedoeld zijn om de intentie van gebruikers te herkennen, misbruik te voorkomen en te reageren op mogelijke veiligheidsproblemen.

De rechtszaak volgde op een vergelijkbare zaak in Florida. Procureur-generaal James Uthmeier maakte onlangs bekend dat het Office of Statewide Prosecution een strafrechtelijk onderzoek naar OpenAI en ChatGPT had geopend.