新墨西哥州最高法院近日对一名律师作出处罚，因其在为一起谋杀案定罪上诉提交的法律文件中，使用了由人工智能生成的虚假证人和伪造警方证词。法院认定该律师未对其AI生成摘要中的事实主张与法律依据进行核实，遂处以5000美元罚款并裁定其藐视法庭。这一案件再次将AI幻觉进入司法程序后的现实风险推至台前。
AI生成的“完美摘要”变成虚假证据
据路透社报道，涉事律师 Stephen Aarons 在一起谋杀定罪的上诉材料中提交了由 ChatGPT 生成的内容。法院文件显示，这份简报中包含“完全捏造证人”的虚假证词，还涉及对枪手衣着与外貌描述的不实证言。
在8月的一次听证会上，Aarons 承认自己使用了 ChatGPT，并认为该工具能够生成一份“无懈可击的审判摘要”。对此，法官 C. Shannon Bacon 当庭追问：“律师，你看新闻吗？你听广播吗？你关注世界上正在发生什么吗？”她指出，律师依赖AI幻觉的问题“几乎每天都出现在重要报道中”。
法院开始正视AI材料的核验责任
这起处罚并非孤立事件。随着越来越多律师将AI工具引入法律文书撰写与案例检索，法院发现AI伪造判例、虚假引文和虚构事实的情况也在增加。此前，已有法官批评两家律师事务所提交包含“大量虚假、不准确且具有误导性的法律引用和引文”的文件；在 MyPillow 创始人 Mike Lindell 的相关案件中，也有律师因在文件中加入AI生成的错误引语和虚假引用而被罚款。
这些案例共同指向一个核心问题：AI可以辅助提高效率，但不能替代律师对事实与法律内容的最终核验。尤其是在刑事诉讼、上诉和证据提交等高风险场景中，生成式模型可能出现看似流畅但完全虚构的内容。如果缺乏人工复核机制，AI输出就可能从效率工具变成程序隐患。
司法系统需要建立更明确的AI使用规则
新墨西哥州最高法院此次的处罚传递出清晰信号：律师不能以“工具自动生成”为由免除责任。法院认定，律师有义务核实其提交材料中的事实主张与法律依据，尤其是在使用AI生成内容时更应保持高度审慎。
对法律行业而言，这一事件也提示出制度建设的重要性。律师事务所和律师协会可能需要尽快明确AI辅助办案的边界，例如要求对AI生成判例、证人陈述、事实时间线等关键内容进行二次核查，并在必要情况下向法院说明材料来源与验证过程。
Aarons 在向路透社提供的声明中表示：“我感到懊悔，但希望纪律委员会考虑到这是一个无心之失。”不过，从法院此次裁罚来看，司法系统显然更看重提交材料的真实性，而非使用者的主观意图。
生成式AI正在进入越来越多的专业工作流，但其在法律场景中的风险也愈发具体。对于法院来说，如何在鼓励技术辅助与维护司法严谨之间建立规则，将成为下一阶段必须面对的问题。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/lyu-shi-yin-zai-mou-sha-an-shang-su-zhong-ti-jiao-ai-xu-gou
