Adwokat z Nowego Meksyku reprezentujący skazanego za morderstwo złożył apelację zawierającą sfabrykowane oświadczenia policji i zeznania świadków po wykorzystaniu ChatGPT do skrócenia akt sprawy — wynika z ustaleń Sądu Najwyższego Nowego Meksyku.

Sąd uznał, że adwokat Stephen Aarons nie zweryfikował materiałów wygenerowanych przez system sztucznej inteligencji. Sędziowie stwierdzili, że pismo „zawierało fałszywe zeznania całkowicie sfabrykowanych świadków”. W środę sąd uznał Aaronsa za winnego obrazy sądu i nakazał mu zapłacić $5,000. Jego postępowanie zostanie również przekazane komisji dyscyplinarnej dla adwokatów.

Sędziowie powiedzieli, że Aarons „wykazał brak skruchy i brak troski o swojego klienta”.

Aarons, prywatny adwokat z siedzibą w Santa Fe, powiedział, że w zeszłym roku, po przejęciu apelacji, użył ChatGPT do skrócenia akt sprawy. Przyznał, że nie rozumiał, jak daleko mogą sięgać „halucynacje” AI ani z jaką pewnością oprogramowanie może generować fakty dotyczące wydarzeń, które nigdy nie miały miejsca.

„Czuję skruchę, ale mam nadzieję, że komisja dyscyplinarna uwzględni, iż był to uczciwy błąd” — powiedział Aarons dziennikarzom, zgodnie z relacją. „To lekcja dla wszystkich profesjonalistów, którzy polegają na tej potężnej, ale czasami niestabilnej technologii”.

Aarons reprezentował Oscara Renee Sandovala, który nie przyznał się do zabójstwa matki swoich dzieci. Sandoval został później skazany i w zeszłym roku otrzymał wyrok dożywotniego pozbawienia wolności. Jego apelacja jest nadal w toku. Postanowienie dotyczące obrazy sądu odnosi się do rzetelności pisma Aaronsa, natomiast samą apelacją zajmuje się obecnie inny pełnomocnik.

Sprawa Sandovala została 2 września przekazana Kim Chavez Cook, obrońcy z urzędu w Nowym Meksyku. Cook prowadzi obecnie apelację, a sprawa pozostaje otwarta.

Prawnicy w sądach stanowych i federalnych byli już wcześniej karani za niekontrolowane wykorzystywanie AI. W kilku sprawach adwokaci składali pisma zawierające sfabrykowane orzeczenia, fałszywe odniesienia lub niedokładnie cytowane przepisy prawne. Sprawa Aaronsa wyróżnia się tym, że pismo zawierało fałszywe zeznania przypisane całkowicie sfabrykowanym świadkom w apelacji karnej.

Sprawę opisał Cryptopolitan, który zamieścił również odnośnik do relacji Reuters.

Pozew na Florydzie twierdzi, że rozmowy z ChatGPT miały związek ze strzelaniną na FSU

Odrębny spór prawny dotyczy ChatGPT i strzelaniny na Florida State University. Adwokat reprezentujący rodzinę Tiru Chabby, który zginął w strzelaninie, pozwał w sądzie federalnym OpenAI, ChatGPT i Phoenixa Iknera.

Pozew złożono w niedzielę w Sądzie Okręgowym Stanów Zjednoczonych dla Północnego Dystryktu Florydy. Twierdzi on, że OpenAI powinno było podjąć działania w reakcji na aktywność opisaną w sprawie. Pismo przedstawia roszczenia rodziny, ale samo w sobie nie rozstrzyga, czy OpenAI ponosi odpowiedzialność prawną.

Organy ścigania na Florydzie opublikowały transkrypcje rozmów Phoenixa Iknera z ChatGPT. Transkrypcje obejmują pytania dotyczące obsługi broni, relacji medialnych, najbardziej ruchliwych godzin na FSU, strzelaniny w Columbine oraz tego, jak stać się niesławnym.

Bakari Sellers, adwokat rodziny Chabby, powiedział, że rozmowy trwały około 18 miesięcy i obejmowały około 16,000 „niepokojących czatów”.

„To ta sama osoba, która pytała: wiecie, jak może stać się niesławny? Pytał o strzelaninę w Columbine. Pytał, o której powinien przyjechać na kampus. O której będzie tam najwięcej osób?” — powiedział Sellers.

„Dosłownie wykorzystywał open AI i Chat GPT jako swojego wspólnika, używał go jako źródła informacji do przeprowadzenia masowego morderstwa” — dodał Sellers. „Nie było niczego, co mogłoby temu zapobiec, dlatego zginęli ludzie. Na tym polega podstawowe zagrożenie — musi istnieć coś, co zapobiegnie takim sytuacjom”.

OpenAI odrzuciło odpowiedzialność za strzelaninę. Rzecznik Drew Pusateri powiedział, że po uzyskaniu informacji o zdarzeniu firma zlokalizowała konto, które mogło być powiązane z Phoenixem, i z własnej inicjatywy przekazała informacje policji. Pusateri dodał, że OpenAI nadal współpracuje z władzami.

„Ubiegłoroczna strzelanina na Florida State University była tragedią, ale ChatGPT nie odpowiada za tę straszną zbrodnię” — powiedział Pusateri.

Stwierdził, że ChatGPT dostarczał materiały faktyczne, które były już szeroko dostępne w publicznych źródłach internetowych, i nie zachęcał do nielegalnych ani szkodliwych działań. Pusateri dodał również, że setki milionów ludzi korzystają z ChatGPT każdego dnia w uzasadnionych celach.

Według Pusateriego OpenAI stale ulepsza narzędzia zaprojektowane do rozpoznawania intencji użytkowników, zapobiegania nadużyciom i reagowania na potencjalne zagrożenia dla bezpieczeństwa.

Pozew został złożony po podobnej sprawie na Florydzie. Prokurator generalny James Uthmeier ujawnił niedawno, że Biuro Prokuratury Stanowej wszczęło dochodzenie karne w sprawie OpenAI i ChatGPT.