Un avocat du Nouveau-Mexique représentant un homme reconnu coupable de meurtre a soumis un mémoire d’appel contenant de fausses déclarations policières et de faux témoignages après avoir utilisé ChatGPT pour condenser le dossier du procès, selon la Cour suprême du Nouveau-Mexique.

La cour a conclu que l’avocat Stephen Aarons n’avait pas vérifié les informations générées par le système d’intelligence artificielle. Les juges ont déclaré que le mémoire « contenait de faux témoignages de témoins entièrement fabriqués ». Mercredi, la cour a reconnu Aarons coupable d’outrage et lui a ordonné de payer $5,000. Son comportement sera également transmis à une commission disciplinaire des avocats.

Les juges ont déclaré qu’Aarons avait « fait preuve d’un manque de remords et d’un manque de considération pour son client ».

Aarons, avocat privé établi à Santa Fe, a déclaré avoir utilisé ChatGPT l’année dernière, après avoir repris l’appel, pour condenser le dossier du procès. Il a dit ne pas avoir compris jusqu’où pouvaient aller les « hallucinations » de l’IA ni avec quelle assurance un logiciel pouvait générer des faits concernant des événements qui ne s’étaient jamais produits.

« Je ressens des remords, mais j’espère que la commission disciplinaire tiendra compte du fait qu’il s’agissait d’une erreur honnête », a déclaré Aarons aux journalistes, selon l’article. « C’est une leçon pour tous les professionnels qui s’appuient sur cette technologie puissante, mais parfois instable. »

Aarons représentait Oscar Renee Sandoval, qui avait plaidé non coupable du meurtre de la mère de ses enfants. Sandoval a ensuite été reconnu coupable et condamné à la prison à vie l’année dernière. Son appel est toujours en cours. La décision d’outrage concerne l’exactitude du mémoire d’Aarons, tandis que l’appel sur le fond est désormais pris en charge par un autre avocat.

Le dossier de Sandoval a été transféré à Kim Chavez Cook, une avocate commise d’office du Nouveau-Mexique, le September 2. Cook gère désormais l’appel alors que l’affaire reste ouverte.

Des avocats ont déjà fait l’objet de sanctions devant des tribunaux d’État et fédéraux pour avoir utilisé l’IA sans contrôle. Dans plusieurs affaires, des avocats ont soumis des mémoires contenant des décisions judiciaires inventées, de fausses références ou des dispositions légales citées de manière inexacte. L’affaire Aarons se distingue parce que le mémoire contenait de faux témoignages attribués à des témoins entièrement fabriqués dans le cadre d’un appel pénal.

L’affaire a été rapportée par Cryptopolitan, qui a également cité un article de Reuters.

Une plainte en Floride affirme que des échanges avec ChatGPT étaient liés à la fusillade de FSU

Un autre litige concerne ChatGPT et la fusillade survenue à Florida State University. Un avocat représentant la famille de Tiru Chabba, décédé lors de la fusillade, a poursuivi OpenAI, ChatGPT et Phoenix Ikner devant un tribunal fédéral.

La plainte a été déposée dimanche devant le United States District Court for the Northern District of Florida. Elle affirme qu’OpenAI aurait dû agir en réaction aux activités décrites dans l’affaire. Le document présente les accusations de la famille ; il ne permet pas à lui seul de déterminer si OpenAI est juridiquement responsable.

Les forces de l’ordre de Floride ont publié les transcriptions des conversations de Phoenix Ikner avec ChatGPT. Ces transcriptions comprennent des questions sur l’utilisation d’une arme à feu, la couverture médiatique, les périodes les plus fréquentées à FSU, la fusillade de Columbine et la manière de devenir tristement célèbre.

Bakari Sellers, l’avocat de la famille de Chabba, a déclaré que les échanges s’étendaient sur environ 18 mois et totalisaient près de 16 000 « conversations troublantes ».

« C’est la même personne qui a demandé, vous savez, comment devenir tristement célèbre. Il a posé des questions sur la fusillade de Columbine. Il a demandé à quelle heure il devait se rendre sur le campus. À quelle heure la plupart des gens seraient-ils présents ? », a déclaré Sellers.

« Il a littéralement utilisé OpenAI et ChatGPT comme co-conspirateurs, et comme une ressource pour commettre un meurtre de masse », a ajouté Sellers. « Rien n’était prévu pour empêcher cela et des vies ont donc été perdues. C’est le danger inhérent : il faut mettre en place des mesures pour empêcher que cela ne se produise. »

OpenAI a rejeté toute responsabilité dans la fusillade. Son porte-parole, Drew Pusateri, a déclaré que l’entreprise avait identifié un compte qui serait associé à Phoenix après avoir appris ce qui s’était passé et qu’elle avait transmis spontanément les informations à la police. Pusateri a indiqué qu’OpenAI continuait de coopérer avec les autorités.

« La fusillade de masse survenue l’année dernière à Florida State University était une tragédie, mais ChatGPT n’est pas responsable de ce crime terrible », a déclaré Pusateri.

Il a affirmé que ChatGPT avait fourni des informations factuelles déjà largement disponibles sur des sources publiques en ligne et n’avait pas encouragé un comportement illégal ou dangereux. Pusateri a également déclaré que des centaines de millions de personnes utilisaient ChatGPT chaque jour à des fins légitimes.

Selon Pusateri, OpenAI améliore en permanence des outils conçus pour identifier les intentions des utilisateurs, prévenir les détournements et répondre aux problèmes potentiels de sécurité.

La plainte fait suite à une affaire similaire en Floride. Le procureur général James Uthmeier a récemment révélé que l’Office of Statewide Prosecution avait ouvert une enquête pénale visant OpenAI et ChatGPT.