Адвокат из Нью-Мексико, представлявший осужденного за убийство, подал апелляционную жалобу, содержавшую сфабрикованные заявления полиции и показания свидетелей, после того как использовал ChatGPT для сокращения материалов судебного разбирательства, говорится в решении Верховного суда Нью-Мексико.

Суд установил, что адвокат Стивен Ааронс не проверил материалы, сгенерированные системой искусственного интеллекта. Судьи заявили, что в жалобе «содержались ложные показания полностью выдуманных свидетелей». В среду суд признал Ааронса виновным в неуважении к суду и обязал его выплатить $5 000. Материалы о его поведении также будут переданы в дисциплинарную комиссию адвокатуры.

Судьи заявили, что Ааронс «продемонстрировал отсутствие раскаяния и обеспокоенности за своего клиента».

Ааронс, частный адвокат из Санта-Фе, сообщил, что в прошлом году, после принятия дела к апелляционному рассмотрению, использовал ChatGPT для сокращения материалов процесса. По его словам, он не понимал, насколько масштабными могут быть «галлюцинации» ИИ и с какой уверенностью программа способна генерировать факты о событиях, которых никогда не происходило.

«Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтет, что это была честная ошибка», — сказал Ааронс журналистам, согласно сообщению. «Это урок для всех специалистов, которые полагаются на эту мощную, но иногда нестабильную технологию».

Ааронс представлял Оскара Рене Сандоваля, который не признал себя виновным в убийстве матери своих детей. Позже Сандоваль был осужден и в прошлом году приговорен к пожизненному заключению. Его апелляция остается на рассмотрении. Постановление о неуважении к суду касается достоверности документа, поданного Ааронсом, тогда как основную апелляцию теперь ведет другой адвокат.

2 сентября дело Сандоваля передали Ким Чавес Кук, государственному защитнику из Нью-Мексико. Кук теперь ведет апелляцию, пока дело остается открытым.

Адвокаты в судах штатов и федеральных судах ранее уже подвергались санкциям за неконтролируемое использование ИИ. В нескольких случаях юристы подавали документы с вымышленными судебными делами, ложными ссылками или неточно процитированными положениями закона. Дело Ааронса отличается тем, что в документе содержались ложные показания, приписанные полностью вымышленным свидетелям, в рамках уголовной апелляции.

О деле сообщило издание Cryptopolitan, которое также сослалось на сообщение Reuters.

Иск во Флориде утверждает, что переписка с ChatGPT была связана со стрельбой в FSU

Отдельный судебный спор касается ChatGPT и стрельбы в Университете штата Флорида. Адвокат, представляющий семью Тиру Чаббы, погибшего при стрельбе, подал в федеральный суд иск против OpenAI, ChatGPT и Финикса Икнера.

Иск был подан в воскресенье в Окружной суд США по Северному округу Флориды. В нем утверждается, что OpenAI должна была принять меры в ответ на описанную в деле активность. Документ излагает требования семьи, но сам по себе не устанавливает юридическую ответственность OpenAI.

Правоохранительные органы Флориды опубликовали расшифровки разговоров Финикса Икнера с ChatGPT. В них содержатся запросы об обращении с оружием, освещении в СМИ, наиболее загруженном времени в FSU, стрельбе в школе «Колумбайн» и о том, как стать печально известным.

Бакари Селлерс, адвокат семьи Чаббы, заявил, что переписка велась примерно 18 месяцев и насчитывала около 16 000 «тревожных чатов».

«Это тот же человек, который спрашивал: знаете, как ему стать печально известным? Он спрашивал о стрельбе в “Колумбайне”. Он спрашивал, в какое время ему следует приехать в кампус. В какое время там будет больше всего людей?» — сказал Селлерс.

«Он буквально использовал OpenAI и ChatGPT как соучастников, использовал их как ресурс для совершения массового убийства», — добавил Селлерс. «Ничего не было предусмотрено, чтобы это предотвратить, и поэтому погибли люди. В этом и заключается inherent danger — должна существовать система, способная не допустить подобного».

OpenAI отвергла ответственность за стрельбу. Представитель компании Дрю Пусатери заявил, что после того, как стало известно о произошедшем, компания обнаружила аккаунт, предположительно связанный с Финиксом, и по собственной инициативе передала информацию полиции. Пусатери сообщил, что OpenAI продолжает сотрудничать с властями.

«Массовая стрельба в Университете штата Флорида в прошлом году стала трагедией, но ChatGPT не несет ответственности за это ужасное преступление», — сказал Пусатери.

По его словам, ChatGPT предоставлял фактические материалы, которые уже широко доступны в открытых источниках интернета, и не поощрял незаконное или опасное поведение. Пусатери также отметил, что сотни миллионов людей ежедневно используют ChatGPT в законных целях.

По словам Пусатери, OpenAI постоянно совершенствует инструменты, предназначенные для определения намерений пользователей, предотвращения злоупотреблений и реагирования на потенциальные угрозы безопасности.

Иск был подан после аналогичного дела во Флориде. Генеральный прокурор Джеймс Утмайер недавно сообщил, что Управление уголовного преследования штата начало уголовное расследование в отношении OpenAI и ChatGPT.