법률·전문 업무에서의 AI 활용
잉글랜드·웨일스의 합동 재판부(Divisional Court)는 변호사가 생성형 AI 도구를 이용해 법적 주장서나 증인 진술서를 작성하고도 이를 검증하지 않아, 대개 가짜 판례 인용(출처 표기)이나 가짜 인용문 같은 허위 정보가 법원에 제출된 사건들, 또는 그러한 사용이 의심되는 사건들을 심리했다(판결문).
법원 지침의 내용
- AI 도구는 내용을 지어낼 수 있다. 잉글랜드·웨일스 사법부 지침은 AI 도구가 존재하지 않는 허구의 판례, 판례 인용(출처 표기), 인용문을 만들어 낼 수 있고, 존재하지 않는 법령·논문·법률 문헌을 언급하거나, 법에 관해 부정확하거나 오해를 낳는 정보를 제공하거나, 사실 오류를 범할 수 있다고 경고한다(사법부 지침).
- 의존하기 전에 확인한다. AI 도구가 제공한 모든 정보는 사용하거나 의존하기 전에 정확성을 확인해야 한다(사법부 지침).
- 책임은 사용자에게 있다. 모든 법률 대리인은 법원이나 재판소에 제출하는 자료에 책임이 있으며, 그 자료가 정확하고 적절하도록 할 직업상 의무가 있다. 변호사 없이 소송을 진행하는 당사자 역시 법원에 제출하는 내용에 책임이 있다(사법부 지침).
- 비공개 정보는 공개 챗봇에 입력하지 않는다. 사적이거나 기밀이거나 아직 공개되지 않은 정보는 공개 AI 챗봇에 입력해서는 안 되며, 챗봇에 입력한 내용은 전 세계에 공개된 것으로 간주해야 한다(사법부 지침).
- 챗봇은 법률 조사에 신뢰할 수 없다. 합동 재판부는 무료로 이용할 수 있는 생성형 AI 도구가 신뢰할 만한 법률 조사를 수행할 수 없다고 밝혔다. 이런 도구는 존재하지 않는 출처를 인용하거나, 실제 출처에 나오지 않는 구절을 그 출처에서 인용한 것처럼 제시할 수 있다(판결문).
실무상 확인 사항
- 신뢰할 수 있는 출처와 대조한다. 재판부는 법률 조사에 AI를 사용하는 사람에게는 정부의 법령 데이터베이스, 국립기록원(National Archives)의 법원 판결 데이터베이스, 공식 판례집 같은 권위 있는 출처를 기준으로 정확성을 확인할 직업상 의무가 있다고 밝혔다(판결문).
- 경고 신호에 주의한다. 사법부 지침은 AI가 작성했을 수 있음을 시사하는 징후로, 낯설게 들리는 판례나 생소한 판례 인용(때로는 미국 판례)에 대한 언급, 해당 분야에 대한 일반적인 법 이해와 맞지 않는 주장 등을 든다(사법부 지침).
- 숨겨진 텍스트를 살핀다. 이른바 '화이트 텍스트'는 컴퓨터에는 보이지만 사람 독자에게는 보이지 않도록 문서에 삽입한 숨은 프롬프트나 은닉 텍스트를 말한다(사법부 지침).
- 확인 과정을 설명할 준비를 한다. 지침에 따르면 판사는 변호사가 AI 챗봇의 도움으로 생성된 조사 내용이나 판례 인용의 정확성을 독립적으로 검증했는지 확인해야 할 수 있으며, 변호사 없는 당사자가 챗봇을 사용해 서류를 작성했을 가능성이 있는 경우에는 어떤 정확성 확인 절차를 거쳤는지 물어야 할 수 있다(사법부 지침).
출처
- 변호사의 생성형 AI 사용에 관한 합동 재판부 판결문, 2025년 6월 6일 국립기록원(The National Archives)에 게재하는 방식으로 선고됨.
- Artificial Intelligence (AI) – Judicial Guidance (October 2025), 법원·재판소 사법부(Courts and Tribunals Judiciary), 2025년 10월 31일; 사법부 직위자를 위한 전체 지침(PDF).