随着人工智能在法律行业的应用迅速普及，全球多国司法部门正采取措施打击用AI生成的错误法律文书。美国路易斯安那州一法院日前下达处罚通知，要求一名使用AI生成错误文书的律师缴纳1000美元罚款，因为其文书援引了错误信息。密西西比州一法院的法官对原告和被告双方律师进行重罚，因双方提交的文书中部分案例系AI生成。法官认定案件双方共4名律师存在严重失职行为，对其合计处以8000美元罚款，并取消其中两名律师未来两年在该辖区内的执业资格。
据美国《科学》杂志定义，“AI幻觉”指大语言模型在生成内容时编造看似合理可信的虚假信息，原因可能为大模型设计问题或用户指令表述不清。随着法律界广泛使用AI辅助工作，AI生成的错误法律文书正冲击全球多国司法体系。自2023年起，法国律师达米安·夏洛廷开始在全球35个国家和地区的司法部门收集“AI幻觉”案例。在他整理的1600多起案例中，美国以1116起居首位，加拿大、澳大利亚和英国紧随其后，西班牙、以色列、南非等国也有相关案例。这些案例涉及捏造判例、虚构法官意见、引用不存在的法律依据以及错误法律建议等问题，不仅浪费司法资源，也增加了诉讼成本。
更多国家正收紧对AI法律文书的管控。英国和澳大利亚会对提交AI生成文书的律师处以罚款、行业制裁等处罚。德国因谷歌公司旗下AI大模型虚构两家企业的商誉信息而对其进行处罚。多国司法部门强调，律师等法律工作者在用AI辅助工作后，必须对提交的文件进行查验。
