"처음 보는 판례인데…"

민사 재판을 맡은 대구고법의 한 재판부는 당혹스러움을 감출 수 없었습니다. 피고의 소송대리인이 낸 서면에 마침 이 사건에 딱 들어맞는 대법원 판례가 등장했기 때문입니다.

그런데 이 판례, 20년 넘게 판사 생활을 한 법관에게도 낯설었습니다. 혹시나 해서 검색하니 존재하지 않는 사건이었습니다. 재판부는 다음 변론기일에서 해당 변호사에게 사건번호를 확인해 볼 것을 요구했습니다.

그러자 하루 뒤, 이 변호사는 또 다른 대법원 판례를 들고 왔습니다. "사건번호는 부정확할 수 있다"며 재판부의 의문을 정면으로 반박했습니다. 이런 패기가 무색하게도 새로 들고 온 판례 역시 가짜였습니다.

춘천지법의 어느 지원에서도 비슷한 일이 벌어졌습니다. 한 민사 항소심에서, 재판부는 피고가 항소이유서에서 인용한 여러 판례가 모두 가짜라는 점을 포착했습니다.

재판부는 판결문에 "피고가 근거로 제시한 대법원 2013. 7. 12. 선고 '2012다51164' 판결은 존재하지 않는 것으로 보이는 점"을 항소기각 이유로 언급했습니다. 연결된 각주에는 피고가 인용한 모 지방법원과 대법원 판결들이 "모조리 존재하지 않는 것으로 보인다"고 명시했습니다.


네, 그렇습니다. AI가 제공하는 가짜 판례가 서면에 실려 법원으로 급속도로 침투하고 있습니다.

법원행정처가 TF를 꾸려 지난해 말 전국 법원을 대상으로 조사한 결과, 하급심부터 대법원까지 AI를 활용한 허위 법령과 판례를 법관들이 '발견'한 사례가 꽤 많았습니다.

주로 대리인이나 변호인이 아닌 소송 당사자가 직접 서면을 작성해서 법원에 내는 경우에 그렇다는 의견이 많았습니다. 특히 '나 홀로 소송'이 많은 3천만 원 이하 소액 사건에서 가짜 판례가 자주 등장하더라는 의견도 있었습니다. 법률 전문가가 아닌 피고인이 AI가 제공한 자료를 검증 없이 서면에 붙여 넣는 경우가 많기 때문으로 의심됩니다.

하지만 앞선 대구고법 사례와 같이 꼭 비전문가에게만 벌어지는 일은 아니었습니다. 의뢰인이 믿고 맡긴 변호사들도 똑같은 오류를 범하기는 마찬가지였습니다.

다행히 이런 오류는 법정에서 걸러지기는 합니다.

강원 소재 법원의 어느 판사는 "법관이 서면에 인용한 판례를 그대로 믿는 것도 아니고 검증 과정을 거치기 때문에, 가짜 판례가 재판의 핵심 쟁점에 영향을 끼칠 가능성은 적다"고 했습니다.

서울 지역 법원의 한 판사도 "특정 유형의 사건에는 이러한 판례가 적용된다는 것을 수년간 훈련하고 익혀 왔는데, 생소한 대법 판례가 등장하면 직관적으로 이상한 점을 알아챌 수 있다"고도 했습니다.

법원행정처는 최근 사법정보공개포털에서 '허위 사건번호 확인' 기능을 제공하기 시작했습니다. 존재하지 않는 사건이라면, 위 사진처럼 경고창이 뜨게 돼 있습니다.

그런데, 가령 판례는 존재하나 내용을 잘못 알게 된다면 어떨까요? 울산지법에서 진행된 한 사건에서는 변호사가 인용한 판결의 내용이 실제 변호사가 입증하려 했던 취지와는 달랐다고 합니다. 알고 보니 구글 제미나이로 판결을 찾아보고, 내용은 정확히 검토하지 않았던 겁니다.

허위 사건번호 확인 기능은 특정 사건번호의 사건이 존재하는지 여부만 알려줍니다. 사건의 정확한 내용은 알 수 없습니다. 대법원이 그동안 판결문을 일부만 공개해 왔기 때문입니다.

특히 하급심 판결의 경우 그렇습니다. 얼마 전 내란 우두머리 사건 1심 판결문도 일반에 공개되기까지 부침을 겪었죠. AI가 어떤 판례를 인용하는 게 적절해 보인다고 추천해 준다면, 복잡한 판결문 열람 절차를 거치기보다는 일단 AI를 믿고 서면을 내는 쪽을 택할 유혹에 끌릴 수 있습니다. '나 홀로 소송'을 하는 개인도, 시간에 쫓기는 변호사도 마찬가지입니다.

확정되지 않은 형사 사건 하급심 판결문은 관련 법이 최근에서야 개정돼, 내년 말쯤 열람·복사할 수 있습니다. 그전에는 아예 확인조차 불가능했던 겁니다. 민간 서비스가 있지만 판결문이 다 등록돼 있는 것도 아니고, 이용료도 만만찮습니다. 법관으로 일하다 퇴직한 변호사들도 법원을 나가고서야 이러한 어려움이 있다는 것을 깨닫는다고 합니다.


재미있는 점은, 대법원이 자체 데이터베이스를 기반으로 운용하는 '재판지원 AI'에서도 환각 현상이 나타난다는 것입니다.

요청을 잘못 알아듣는다든지 엉뚱한 판례를 들고나오는 탓에 '별점 1점'과 부정적인 후기가 꽤 쌓였다고 합니다. 오직 법원만이 들고 있는 방대한 원본 데이터로도 환각 현상을 피할 수 없나 싶지만, 기술의 발전으로 지날 과도기라는 생각도 듭니다.

그렇다면 법관들은 AI를 얼마나 활용하고 있을까요. AI 활용에 긍정적인 이들은 그전부터 민간 AI를 써오던 판사들입니다. 찬반 양측의 가상 대결을 꾸며본다거나, 해외 사례 검색에 사용한다고 합니다.

하지만 아직 대놓고 이야기하는 분위기는 아닌 듯합니다. 어느 판사는 지인들 사이에서 유능하다고 평가받는 동료를 두고 민간 AI를 "몰래, 많이 활용한다는 웃지 못할 소문이 돌기도 한다"고 전했습니다.

피할 수 없는 미래라는 생각이 듭니다. 결국 사법부의 과제는 AI를 배제하는 것이 아닙니다. 그 결과물을 어디까지 신뢰하고 어떻게 활용할지 공론장을 열고, 지혜를 모아 제도화하는 일입니다.