[단독] "그거 다 가짜예요"‥법정 휘젓는 AI 거짓말 속수무책

◀ 앵커 ▶

인공지능을 통해 얻은 답변을 얼마나 신뢰하시나요?

AI가 사실과 무관하지만, 진실인 양 만들어낸 정보를 'AI 환각'이라고 하는데요.

최근 한 부당해고 구제심판에서 노무사가 판례를 제출했는데, 모두 AI가 만든 엉터리 판례였던 것으로 확인됐습니다.

요즘 이런 AI환각 판결문을 쓰다가 문제가 되는 일이 경찰수사부터 법원까지 잇따르고 있습니다.

이용주 기자의 단독보도입니다.

◀ 리포트 ▶

지난 9월 부당해고를 당한 아내를 위해 울산지방노동위원회에 구제신청을 낸 전상우 씨.

그런데 전 씨는 회사 측 공인노무사가 제출한 답변서에서 이상한 점을 발견했습니다.

노무사가 인용한 전체 법원 판례 10건의 원문을 하나도 찾을 수 없었기 때문입니다.

[법원 행정처 담당자 (음성변조)]
"이거 없는 사건인데 혹시 그 챗GPT나 뭐 이런 거 활용해서 혹시 신청하신 건가요? 다 없는 사건이에요."

10건 모두 존재하지 않는 판례 번호가 달려 있었습니다.

실제로 판례의 진위를 따지자, 해당 노무사는 그제서야 AI가 만들어준 판례였다고 시인했습니다.

노무사는 "AI와 인터넷으로 판례를 찾는 경향이 많다"며 "사실관계를 조작하지 않았으니, 고의나 허위는 아니"라고 주장했습니다.

전 씨는 허위 판례를 인용한 노무사의 노무사법 위반 여부를 조사해달라며 고용노동부에 민원을 제기했습니다.

[전상우/부당해고 구제신청자 가족]
"제가 지적을 하기 전까지 아무도 문제 제기를 하지 않았잖아요. 다른 사람들의 경우에는 막아내지 못한다면 충분히 피해를 받을 수 있는…"

지난 9월엔 경기 용인동부경찰서에서도 AI로 불송치 결정문을 쓰다 존재하지 않는 법리를 인용했습니다.

당시 고소인 측에서 문제제기를 하지 않았으면 사건이 잘못된 방향으로 흐를 수도 있었습니다.

[권칠승/의원 - 유재성/경찰청장 직무대행 (지난 10월 17일, 경찰청 국정감사)]
"저 판례를 검색하고 내용을 추출할 때 무슨 AI를 썼느냐고요. <챗GPT로 한 것으로 알고 있습니다.> 경찰이 존재하지도 않는 법리를 인용해서 사건을 종결한 거잖아요."

이렇게 법률 전문가나 경찰까지 AI가 만들어준 문서를 아무런 검증없이 쓰는 일이 잇따르고 있지만, 현재는 아무런 법적 규제가 없습니다.

[이재성/중앙대 AI학과 교수]
"GPT나 제미나이는 이 문장을 유려하게 만드는데 목적이 있고요. (AI 설계에) 그 답변이 사실인지 아닌지를 검토하는 거는 일단 따로 떼어놓고 생각을 했었다는 겁니다."

현역 판사들로 구성된 법원 인공지능연구회는 지난 2월 현재 법조인이 수행하는 수준으로 법리를 검토할 수 있는 AI는 없다고 밝히기도 했습니다.

[손영삼/울산지방변호사회 총무상임이사]
"판단 영역까지 맡기기에는 아직까지 어려운 점들이 많이 있습니다. AI 스스로 자신의 오류를 덮기 위해서 추정 또는 추측해서 그걸 사실화시키는 그런 행태들이…"

때문에 소송자료나 증거자료에 AI를 사용했는지 여부를 표기하거나 AI 생성문서를 써 문제가 발생할 경우 법적 책임을 지도록 하는 방안 등 대책이 시급하다는 지적입니다.

MBC뉴스 이용주입니다.

영상취재 : 최 영(울산)

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 [e-mail]
▷ 카카오톡 @mbc제보