법정 AI 가짜 판례 논란, 검증 비용은 누가 부담해야 하나

80%라는 수치에서 구분할 것

최근 보도에 따르면 판사 80%가 AI 환각을 경험했으며, 법정에 등장한 가짜 판례와 변호사의 AI 사용이 함께 다뤄졌다. AI에 입력하는 지시문인 프롬프트까지 그대로 남은 사례도 보도됐다. 다만 이 수치를 전체 재판이나 제출 문서의 80%에 오류가 있었다는 뜻으로 읽어서는 안 된다. 경험한 사람의 비율과 오류가 발생한 문서의 비율은 서로 다른 지표이기 때문이다.

이번 사안을 비용의 관점에서 보면, 핵심은 문서를 빨리 만든 사람이 절약한 시간과 그 문서를 확인하는 사람이 추가로 쓰는 시간이 다를 수 있다는 점이다. 가짜 판례 하나를 살피느라 법원과 상대방이 시간을 더 쓴다면 작성 단계의 효율이 절차 전체의 효율로 이어졌다고 보기 어렵다. AI가 줄인 작성 시간만큼 검증에 필요한 노동도 함께 계산해야 한다는 분석이 가능하다.

판례를 찾는 일과 주장을 확인하는 일

일반적으로 생성형 AI는 문맥에 어울리는 문장을 만들면서 실제로 존재하지 않는 사건번호나 판결 내용을 제시할 수 있다. 법률 문서에서는 형식이 그럴듯할수록 오류를 알아채기 어려울 수 있다. 따라서 판례 검증은 검색 결과에 비슷한 사건이 나오는지만 보는 작업으로 끝나기 어렵다. 해당 판결이 실제로 존재하는지, 인용한 내용이 원문에 있는지를 나누어 확인할 필요가 있다.

판결이 존재하더라도 현재 사건의 주장을 뒷받침하는지는 별개의 문제다. 사실관계나 판단의 전제가 다르면 같은 문장을 가져와도 의미가 달라질 수 있다. 이런 점에서 검증 비용에는 원문을 찾는 시간뿐 아니라 적용 가능성을 판단하는 전문적인 검토도 포함된다고 볼 수 있다. 법률 서비스를 이용하는 사람에게 필요한 것은 검색을 했다는 설명보다 어떤 범위까지 검토했는지에 관한 설명이다.

의뢰인이 계약 전에 물어볼 질문

개인이 법률 업무를 맡길 때는 AI 사용 여부와 함께 제출 문서의 인용 근거를 누가 확인하는지 물어볼 만하다. 모든 판례를 의뢰인이 직접 읽겠다는 뜻은 아니다. 담당자의 검토가 서비스 범위에 포함되는지, 근거 확인이 끝난 문서인지 설명받을 수 있는지가 중요하다. AI를 활용했다는 사실만으로 품질을 판단하기보다 최종 문서에 대한 검토 책임이 분명한지를 확인하는 편이 실용적이다.

비용에 대해서도 질문을 구체화할 필요가 있다. 초안 작성료에 판례 확인 비용이 포함되는지, 인용 오류 때문에 추가 검토가 필요해지면 비용을 어떻게 다룰지 미리 정해두는 방식이다. 이는 특정한 환불 권리가 자동으로 생긴다는 설명이 아니라 계약에서 확인할 항목에 관한 제안이다. 작성 속도를 앞세운 서비스라도 검증이 별도 항목이라면 의뢰인이 부담할 총비용은 예상과 달라질 수 있다.

기업은 분량보다 검토 범위를 사야 한다

기업 법무팀이 외부 자문이나 AI 도구를 구매한다면 문서 분량과 응답 속도만으로 성과를 평가하지 않는 편이 좋다. 주요 인용에 원문 출처가 연결되는지, 담당자가 그 근거를 검토했는지 확인할 기준이 필요하다. 이는 새 기능을 더 구매하라는 뜻이 아니라 기존 서비스의 납품 조건을 명확히 하자는 제안이다. 확인되지 않은 초안과 검토를 마친 문서를 구별할 수 있어야 내부 의사결정에도 도움이 된다.

전망하자면 법률 AI의 경쟁력은 얼마나 빨리 답을 내놓는가와 함께, 그 답을 믿고 쓰기까지 얼마나 많은 추가 작업이 필요한가에 따라 평가될 수 있다. 검증 부담을 의뢰인이나 상대방에게 넘긴 서비스는 겉으로 저렴해도 전체 비용을 키울 가능성이 있다. 이번 논란을 계기로 개인과 기업이 살펴볼 기준도 분명해진다. 작성 시간의 절감과 근거 확인의 책임을 한 계약 안에서 함께 따져보는 것이다.