在法律和专业工作中使用 AI
在英格兰和威尔士,高等法院分庭(Divisional Court)审理了数起案件,这些案件涉及律师实际或疑似使用生成式 AI 工具撰写法律论点或证人陈述,而这些内容事后并未经核查,致使虚假信息(通常是虚假的引注或引文)被提交至法庭(判决书)。
法院指引的主要内容
- AI 工具可能编造内容。 据英格兰和威尔士司法指引,AI 工具可能编造虚构的案例、引注或引文,援引并不存在的法律、文章或法律文本,提供关于法律的不正确或具有误导性的信息,并出现事实性错误(司法指引)。
- 依赖之前先核查。 AI 工具所提供的任何信息,在使用或依赖之前,必须核查其准确性(司法指引)。
- 责任仍由您承担。 所有法律代理人均须对其提交法院或法庭的材料负责,并负有确保材料准确、适当的职业义务;没有律师代理的诉讼当事人同样须对其向法院提交的内容负责(司法指引)。
- 不要把私密信息输入公共聊天机器人。 不要向公共 AI 聊天机器人输入任何私密或保密的信息,或尚未公开的信息;输入其中的任何内容都应被视为已向全世界公开(司法指引)。
- 聊天机器人不能用于可靠的法律检索。 高等法院分庭表示,可免费获取的生成式 AI 工具无法进行可靠的法律检索:它们可能引用并不存在的来源,或者声称引述某一真实来源中的段落,而该段落实际并未出现在该来源中(判决书)。
实用核查方法
- 对照权威来源核查。 法院表示,使用 AI 进行法律检索的人负有职业责任,须对照权威来源核查其准确性,例如政府的立法数据库、国家档案馆(National Archives)的法院判决数据库以及官方判例汇编(判决书)。
- 留意警示信号。 司法指引列出了表明材料可能由 AI 生成的迹象,包括引用的案例听起来并不熟悉或引注陌生(有时来自美国),以及陈述意见与对该领域法律的一般理解不符(司法指引)。
- 留意隐藏文本。 所谓“白色文本”,是指插入文档中的隐藏提示或被遮蔽的文本,计算机可以看到,但人类读者看不到(司法指引)。
- 准备好说明您的核查工作。 指引称,法官可能需要确认律师已独立核实借助 AI 聊天机器人生成的任何研究或案例引注的准确性;如果没有律师的诉讼当事人可能使用了聊天机器人来准备文件,法官可能需要询问其进行了哪些准确性核查(司法指引)。
来源
- 高等法院分庭关于律师使用生成式 AI 的判决书,于 2025 年 6 月 6 日通过发布至国家档案馆(The National Archives)的方式公布。
- 人工智能(AI)——司法指引(2025 年 10 月),法院与法庭司法机构(Courts and Tribunals Judiciary),2025 年 10 月 31 日;面向司法人员的完整指引(PDF)。