美国新墨西哥州最高法院宣布，辩护律师斯蒂芬·阿伦斯在为一名被判谋杀罪的当事人提出上诉时，提交的文书中出现了虚构证人和编造的警察证词。然而，这些内容均由OpenAI的ChatGPT生成。该法院认定，阿伦斯因未核实提交文书的准确性构成藐视法庭，故对其处以罚款。

阿伦斯承认，自己借助AI起草了这份文书。法院指出，文书中的虚假证词来自「完全虚构的证人」。陪审团还表示，阿伦斯「缺乏悔意，也缺乏对委托人的关心」。法官们对阿伦斯处以5000美元罚款，还将把他移交律师纪律委员会进行调查。

阿伦斯解释称，去年接手这起上诉案时，自己让ChatGPT整理庭审过程，却没有意识到AI产生「幻觉」、编造事实的程度会有多严重。「我很懊悔，但希望纪律委员会能考虑到，这是一次无心之失。所有依赖这项强大却有时不够稳定的技术的专业人士，都应从中吸取教训。」

越来越多的律师因未充分核查AI生成的诉讼文书就将其提交法院，受到州或联邦法官的处分。此前，已有数十名律师因文书中的AI错误受罚，包括编造判例引用、错误引用法律。阿伦斯的情况似乎更为严重，他在刑事上诉文书中使用了虚构的证人证词。

上个月，新墨西哥州最高法院要求阿伦斯解释，虚构内容是如何进入其主要上诉文书的。阿伦斯在听证会上解释称，自己把电脑生成的庭审文字记录和其他案件材料交给ChatGPT，以为它会给出「无懈可击的摘要」。

报道提到，阿伦斯没有充分认识到AI存在出错的风险，令法官们难以置信。培根法官在听证会上质问：「律师先生，你看新闻吗？听广播吗？有没有在了解外面发生什么？律师依赖AI幻觉的问题，每天都是头条新闻！」