新墨西哥州最高法院认定，执业律师 Stephen Aarons 未核实 AI 生成诉状中的事实主张和法律依据，对其处以 5000 美元罚款并判藐视法庭。一宗无期徒刑谋杀案的上诉程序也因此被迫从头开始。
法院在 9 月 9 日周三公布的裁定中指出，Aarons 未能验证其 AI 生成诉状中的事实主张与法律依据。除罚款外，他还被移交律师惩戒委员会调查，并被直接撤出这起案件，由其他律师接手。原本用于争取重审机会的文件，反而让其当事人的上诉回到起点。
诉状出现多名不存在的证人与证词
Aarons 的委托人 Oscar Renee Sandoval 被控杀害自己孩子的母亲，并在 2025 年被判有罪、判处无期徒刑。Sandoval 否认犯行。
去年，Aarons 接手这起案件的上诉工作。面对大量审判笔录与案件资料，他将整理后的材料交给 ChatGPT，希望得到一份摘要。他把目标描述为一份「bulletproof summary」，也就是足以支撑上诉论点、能省去逐页翻阅笔录时间的摘要。
但法院发现，这份看似完整、论述流畅的文件中，包含多名并不存在的证人。裁定提到的名字包括警员 Michelle Amarillo、Sanchez 警员、Manal Al-Jibury 以及 Teresa Marquez，这些人都无法在审判记录中找到。
诉状还写到，证人 Danny Stanton 称自己曾受到被告威胁，并且认真看待这些威胁；其妻子 Linda Stanton 也作证称丈夫遭到威胁。文件甚至补入了枪手衣着外貌等细节，包括深色长裤、白衬衫等描述。
裁定文件将这些内容称为「完全捏造之证人的虚假证词」。Aarons 原本想借助工具提升效率，法院看到的则是一份包含伪造证词的诉状。
听证会上承认使用 ChatGPT
在 8 月 21 日的听证会上，Aarons 承认自己使用了 ChatGPT，并表示他并不了解 AI 会产生幻觉到什么程度。
据路透社报道，大法官 C. Shannon Bacon 在听证会上当面质问：「律师，你看新闻吗？你听广播吗？你有读任何关于这个世界正在发生什么的东西吗？因为律师依赖 AI 幻觉这个问题，每天都是头版新闻。」
类似案例已持续出现
这并非首例。去年已有法官批评两家律师事务所提交的诉状包含大量虚假、不准确且具有误导性的法律引用与引述。MyPillow 创始人 Mike Lindell 的律师，也曾因在诉状中加入 AI 生成的错误引述和假判例而遭罚。
根据法律研究者 Damien Charlotin 维护的 AI 幻觉案例数据库，截至 2026 年 7 月 2 日，数据库已收录 1668 起法院案例，其中美国占 1163 起；在这些美国案例里，653 起的责任人是执业律师，而不是自行诉讼的普通民众。
这次问题出在事实层面
过往多数案例中，AI 幻觉主要出现在法律依据层面，例如假判例或假引述，法院通过比对数据库通常较快就能识别。
但这一次，Aarons 的诉状捏造的是事实层面的证人与证词，情况并不相同，而且案件本身是一宗无期徒刑的谋杀案上诉。
9 月 2 日，这起上诉已改由州公设辩护人 Kim Chavez Cook 接手，整个上诉程序必须重新开始。
Aarons 向路透社表示：「我感到懊悔，但希望惩戒委员会考虑到这是一个诚实的错误。」不过，这次裁定带来的后果并不只落在律师本人身上。Aarons 面对的是 5000 美元罚款和一项惩戒调查，而 Sandoval 承受的则是上诉延宕与程序重来。