上诉状里的证人是AI编的，州最高法院判这名律师蔑视法庭

8月21日在新墨西哥州最高法院的听证会上，法官C·香农·培根对一名律师连着发问。“律师先生，您看新闻吗？听广播吗？有没有在了解外面发生什么？”据路透社报道，她接着说，“律师依赖AI幻觉的问题，几乎每天都是头版新闻。”

被问的是圣菲的刑事辩护律师斯蒂芬·阿伦斯，执业超过四十年。他刚承认，自己把一份电脑生成的庭审文字记录连同其他案卷材料交给了ChatGPT，原指望拿到一份“无懈可击的总结”。

9月9日，法院下达命令。阿伦斯被罚款5000美元，认定蔑视法庭，案子一并移交律师纪律委员会。命令里写明，那份上诉状“包含来自完全虚构证人的虚假证词”，并且认定阿伦斯“缺乏悔意，也缺乏对委托人的关心”。

这起上诉的委托人叫奥斯卡·雷内·桑多瓦尔。2025年2月，他因杀害伴侣希琳·阿尔-吉布里被判终身监禁，死者是他孩子的母亲。桑多瓦尔庭审时不认罪，定罪后提出上诉。交给州最高法院的上诉状是他能不能翻案的第一道关口。

阿伦斯那份文书里多出来的东西，包括伪造的警察证词，以及一处“凶手身穿深色裤子和白衬衫”的说法。法院上个月要求他解释这些内容怎么进了主上诉状，才有了8月21日那场听证。

这类翻车故事在过去两年多已经重复了很多次。2023年的Mata v. Avianca案里，纽约南区联邦法院对提交了六个不存在判例的两名律师及其律所罚了5000美元，那是最早引起大范围关注的一起。此后同类事件一路上升。

阿伦斯这起有个实质差别。此前绝大多数案子里，AI编出来的是判例引用，法院查一下就能证伪，一个判例要么存在要么不存在。阿伦斯文书里编的是案件事实，是庭审上谁说过什么、当事人穿了什么。这类内容没有一个对照库可以检索，唯一的核对方式是回到庭审原始记录逐字比对，而那正好是他交给AI去做的那一步。路透社在报道里也点出了这一层，说阿伦斯的情况“似乎更进一步”，虚构内容进到了刑事上诉的证人证词。

我判断这个差别会决定后面这类案子的处理强度。依据有两条。一是刑事上诉直接关系人身自由，事实陈述一旦失真，法院和对方当事人都很难在第一时间察觉，等发现时损害已经落到那个被判终身监禁的人身上。二是法院命令里专门写了“缺乏对委托人的关心”，法院把注意力放在了对委托人的后果上，而不只是文书是否整洁。

另一个容易被读错的地方在于法院处罚的对象。命令里没有禁止律师使用生成式工具。Mata案主审法官P·凯文·卡斯特尔在2023年写过一句后来被反复引用的话，技术进步很常见，用可靠的AI工具辅助工作本身没有不当之处，现行规则要求律师对自己提交的文件负把关责任。

落到阿伦斯身上，被处罚的是三件事，没核实、没告知委托人、事后也不认错。2026年4月加州东区联邦法院的Gamez v. County of Fresno案可以对照，那名律师同样提交了不存在的引用，因为解释坦白，法院最终撤销了说明理由令，没有处罚。反过来，第六巡回法院2026年3月在Whiting v. City of Athens案里对两名律师各罚1.5万美元并移交纪律机构，理由是文书里有“二十多个假引用”，加上律师拒绝回答法院提问。

数字能说明这类事件已经到了什么量级。法国HEC巴黎的研究员达米安·夏尔洛坦维护着一个公开数据库，收录各国法院认定文书含AI虚构内容的判决。据Legal Desire在2026年9月1日的引用，库里已有2006起，其中美国1376起。美国马里兰州律师协会的一篇文章引用同一数据库，给出2025年524起，其中97起判了罚款、59起移交纪律机构；2026年到该文发稿时668起，58起罚款、21起移交。两组数字的统计口径和时间点不完全一致，只能当量级参照。

罚款区间也在往上走。Mata案是5000美元，2026年3月第六巡回那起各1.5万美元，2025年另有一份制裁超过11万美元。2026年4月，内布拉斯加州最高法院对一名律师作出临时停止执业的处分，这是公开记录里第一起因为AI虚构内容被暂停执业的。

行业目前的应对基本停在“让律师自己核对”这一步。我判断这一步解决不了问题。核对恰好是时间压力最大的那一环，上诉状有提交期限，起草常常拖到最后一刻，核对引用和事实是唯一能被砍掉的工序。换成所谓专业的法律AI工具也不构成豁免，2026年2月第五巡回的Fletcher v. Experian案里，律师用的是vLex和汤森路透的CoCounsel，照样提交了捏造的引文，被罚2500美元。斯坦福和耶鲁研究者在2024年发表的测试中，接入判例库的检索增强法律工具回答仍有17%到34%存在幻觉。2025年7月Johnson v. Dunn案的法院在意见里写过一句更实在的话，单靠罚款“被证明是无效的”。

阿伦斯对路透社说，“我很懊悔，但希望纪律委员会能考虑到，这是一次无心之失”，还说这是“所有依赖这项强大却有时不够稳定的技术的专业人士”都该吸取的教训。

桑多瓦尔的上诉还在审理。9月2日，案子被重新指派给新墨西哥州公设辩护人金·查韦斯·库克，她没有对媒体表态。OpenAI没有回应路透社的置评请求。

本文事实来自新墨西哥州最高法院9月9日命令（经路透社、The Verge、Al Jazeera报道）、达米安·夏尔洛坦AI幻觉案例数据库（Legal Desire与马里兰州律师协会引用）、Mata v. Avianca（S.D.N.Y. 2023）、Gamez v. County of Fresno（E.D. Cal. 2026）、Whiting v. City of Athens（6th Cir. 2026）、Fletcher v. Experian（5th Cir. 2026）、Johnson v. Dunn（2025）以及Dahl等人2024年关于法律检索工具幻觉率的研究。