据新墨西哥州最高法院称，一名代理已被定罪杀人犯的新墨西哥州律师在使用ChatGPT压缩审判记录后，提交了一份包含虚构警方陈述和证人叙述的上诉状。

法院认定，律师斯蒂芬·阿伦斯未核实人工智能系统生成的材料。法官表示，该上诉状“包含完全虚构的证人提供的虚假证词”。周三，法院判处阿伦斯藐视法庭罪，并命令其支付$5,000罚款。其行为还将被移交律师纪律委员会处理。

法官表示，阿伦斯“表现出缺乏悔意，也不关心自己的当事人”。

阿伦斯是一名常驻圣菲的私人律师。他表示，自己在接手上诉后，于去年使用ChatGPT压缩审判记录。他说，自己并不了解人工智能“幻觉”可能达到的程度，也没意识到软件能够如此自信地生成从未发生过的事实。

“我感到后悔，但希望纪律委员会能够考虑到这是一场诚实的错误，”据报道，阿伦斯对记者表示。“对于所有依赖这种强大但有时不稳定技术的专业人士来说，这是一次教训。”

阿伦斯代理的是奥斯卡·雷内·桑多瓦尔。桑多瓦尔否认杀害自己子女的母亲，之后被定罪，并于去年被判处终身监禁。他的上诉仍在审理中。藐视法庭令涉及阿伦斯提交文件的准确性，而基础上诉目前已由其他律师负责。

桑多瓦尔的案件于9月2日移交给新墨西哥州公设辩护律师金·查韦斯·库克。案件仍在审理期间，库克目前负责该上诉。

此前，州法院和联邦法院已有多名律师因不受控制地使用人工智能而受到制裁。在数起案件中，律师提交的文件包含虚构案件、虚假参考资料或错误引用的法律条文。阿伦斯的案件之所以特别，是因为其文件在刑事上诉过程中包含了归于完全虚构证人的虚假证词。

该案件由Cryptopolitan报道，并链接至一篇路透社报道。

佛罗里达州诉讼称ChatGPT聊天记录与FSU枪击案有关

另一宗法律纠纷涉及ChatGPT以及佛罗里达州立大学发生的枪击案。代表枪击案遇难者蒂鲁·查巴家属的律师，已在联邦法院起诉OpenAI、ChatGPT和Phoenix Ikner。

该诉讼于周日在美国佛罗里达州北区联邦地区法院提起。诉状称，OpenAI应针对案件所描述的活动采取行动。该文件陈述了家属的主张，但其本身并不能裁定OpenAI是否承担法律责任。

佛罗里达州执法部门公布了Phoenix Ikner与ChatGPT的对话记录。记录包括有关如何操作枪支、媒体报道、FSU最繁忙时段、科伦拜恩枪击案以及如何成名的提问。

查巴家属的律师巴卡里·塞勒斯表示，这些交流持续了约18个月，总计约16,000条“令人不安的聊天记录”。

“就是这个人问过，你知道，怎样才能成名？他问过科伦拜恩枪击案。他问过应该在什么时间去校园？大多数人会在什么时间到那里？”塞勒斯说。

“他确实把OpenAI和ChatGPT当作共谋者，把它作为实施大规模谋杀的资源，”塞勒斯补充说。“当时没有任何机制阻止这件事发生，因此有人失去了生命。这就是其中固有的危险，必须有机制阻止这种事情发生。”

OpenAI否认对枪击案负责。发言人Drew Pusateri表示，公司在得知事件发生后找到了一个被认为与Phoenix有关联的账户，并主动将相关信息分享给警方。Pusateri表示，OpenAI仍在配合有关部门调查。

“去年佛罗里达州立大学发生的大规模枪击案是一场悲剧，但ChatGPT不应对这起可怕的犯罪负责，”Pusateri说。

他表示，ChatGPT提供的是已经通过公共互联网来源广泛公开的事实性材料，并未鼓励非法或有害行为。Pusateri还表示，每天有数亿人出于正当目的使用ChatGPT。

据Pusateri介绍，OpenAI一直在改进相关工具，以识别用户意图、防止滥用，并在出现潜在安全问题时采取应对措施。

这起诉讼发生在佛罗里达州另一宗类似案件之后。佛罗里达州总检察长James Uthmeier近日披露，州检察机关办公室已对OpenAI和ChatGPT展开刑事调查。