Un abogado de Nuevo México que representaba a un condenado por asesinato presentó un escrito de apelación que contenía declaraciones policiales y testimonios de testigos fabricados después de usar ChatGPT para resumir el expediente del juicio, según la Corte Suprema de Nuevo México.

La corte determinó que el abogado Stephen Aarons no verificó el material generado por el sistema de inteligencia artificial. Los jueces dijeron que el escrito “contenía testimonios falsos de testigos completamente fabricados”. El miércoles, la corte declaró a Aarons en desacato y le ordenó pagar $5,000. Su conducta también será remitida a un consejo disciplinario de abogados.

Los jueces dijeron que Aarons había “demostrado falta de remordimiento y falta de preocupación por su cliente”.

Aarons, un abogado privado con sede en Santa Fe, dijo que usó ChatGPT el año pasado, después de hacerse cargo de la apelación, para resumir el expediente del juicio. Dijo que no entendía hasta qué punto podían ocurrir las “alucinaciones” de la IA ni con cuánta seguridad el software podía generar hechos sobre acontecimientos que nunca ocurrieron.

“Me arrepiento, pero espero que el consejo disciplinario tome en cuenta que fue un error honesto”, dijo Aarons a los periodistas, según el informe. “Es una lección aprendida para todos los profesionales que dependen de esta tecnología poderosa, pero a veces inestable”.

Aarons representó a Oscar Renee Sandoval, quien se declaró inocente de matar a la madre de sus hijos. Sandoval fue condenado posteriormente y sentenciado a cadena perpetua el año pasado. Su apelación sigue pendiente. La orden de desacato se refiere a la precisión del escrito de Aarons, mientras que la apelación subyacente ahora está a cargo de otro abogado.

El caso de Sandoval fue transferido a Kim Chavez Cook, una defensora pública de Nuevo México, el 2 de septiembre. Cook está a cargo de la apelación mientras el caso sigue abierto.

Anteriormente, abogados de tribunales estatales y federales han enfrentado sanciones por el uso descontrolado de la IA. En varios casos, los abogados presentaron escritos que contenían casos judiciales inventados, referencias falsas o disposiciones legales citadas de forma incorrecta. El caso de Aarons se distingue porque el escrito incluía testimonios falsos atribuidos a testigos completamente fabricados en una apelación penal.

El caso fue reportado por Cryptopolitan, que también enlazó a un informe de Reuters.

Una demanda en Florida alega que chats de ChatGPT estuvieron relacionados con el tiroteo en FSU

Una disputa legal separada involucra a ChatGPT y el tiroteo en la Universidad Estatal de Florida. Un abogado que representa a la familia de Tiru Chabba, quien murió en el tiroteo, demandó en un tribunal federal a OpenAI, ChatGPT y Phoenix Ikner.

La demanda fue presentada el domingo en el Tribunal de Distrito de Estados Unidos para el Distrito Norte de Florida. Alega que OpenAI debió haber tomado medidas en respuesta a la actividad descrita en el caso. El escrito presenta las reclamaciones de la familia; por sí solo, no resuelve si OpenAI es legalmente responsable.

Las autoridades policiales de Florida divulgaron transcripciones de las conversaciones de Phoenix Ikner en ChatGPT. Las transcripciones incluyen consultas sobre cómo operar un arma, cobertura mediática, los horarios de mayor actividad en FSU, el tiroteo de Columbine y cómo volverse infame.

Bakari Sellers, abogado de la familia de Chabba, dijo que los intercambios se extendieron durante aproximadamente 18 meses y sumaron cerca de 16,000 “chats perturbadores”.

“Esta es la misma persona que preguntó, ya sabes, ¿cómo puede volverse infame? Preguntó sobre el tiroteo de Columbine. Preguntó a qué hora debía ir al campus. ¿A qué hora estará allí la mayoría de las personas?”, dijo Sellers.

“Literalmente utilizó open AI y Chat GPT como su cómplice, lo utilizó como un recurso para llevar a cabo un asesinato masivo”, agregó Sellers. “No había nada establecido para evitar que eso ocurriera y, por eso, se perdieron vidas. Ese es el peligro inherente; tiene que haber algo establecido para evitar que eso ocurra”.

OpenAI rechazó la responsabilidad por el tiroteo. El portavoz Drew Pusateri dijo que la empresa localizó una cuenta que se creía asociada con Phoenix después de enterarse de lo ocurrido y compartió proactivamente la información con la policía. Pusateri dijo que OpenAI continúa cooperando con las autoridades.

“El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”, dijo Pusateri.

Dijo que ChatGPT proporcionó material factual que ya estaba ampliamente disponible en fuentes públicas de internet y que no promovió conductas ilegales o dañinas. Pusateri también dijo que cientos de millones de personas usan ChatGPT todos los días con fines legítimos.

Según Pusateri, OpenAI mejora continuamente herramientas diseñadas para identificar las intenciones de los usuarios, prevenir el uso indebido y responder ante posibles problemas de seguridad.

La demanda siguió a un caso similar en Florida. El fiscal general James Uthmeier reveló recientemente que la Oficina de la Fiscalía Estatal había abierto una investigación penal contra OpenAI y ChatGPT.