개인정보 몰래 학습한 AI 챗봇법원 "최대 40만 원 배상"

뉴스데스크정한솔

Your browser doesn't support HTML5 video.

◀ 앵커 ▶

AI 챗봇이 이용자의 동의 없이 대화 내용을 학습했다면 개발업체가 손해를 배상해야 한다는 법원 판결이 나왔습니다.

AI 학습에 개인정보를 허락 없이 활용한 사례에 대한 첫 손해배상 판결입니다.

정한솔 기자입니다.

◀ 리포트 ▶

′뭐 하고 있었어′라고 질문을 올리자, ″영화 리뷰 보는데 재밌다″는 답이 올라옵니다.

말투나 표현이 자연스럽지만, 상대는 사람이 아닙니다.

스타트업인 스캐터랩이 2020년 개발한 인공지능 챗봇 ′이루다′입니다.

하지만 정식 출시 3주 만에 서비스가 잠정 중단됐습니다.

개인정보 유출 논란이 불거졌기 때문입니다.

스캐터랩은 실제 연인들의 SNS 대화 94억 건을 학습시켜 이루다를 개발했습니다.

대화를 입력하면 심리를 분석해 애정도를 수치로 보여주는 스캐터랩의 또 다른 앱에서 학습 자료를 수집했습니다.

문제는 ′개인정보가 다른 AI 챗봇 학습에 쓰인다′는 구체적인 고지나 설명이 없었다는 점입니다.

이름과 전화번호, 현관 비밀번호는 물론 연인들의 민감한 대화까지 챗봇 학습에 활용됐습니다.

지난 2021년 이용자 246명이 개인정보가 유출됐다며 소송을 제기했습니다.

1심 법원은 4년여 만에 ″개발업체가 이용자 동의 없이 대화를 활용해 개인정보 보호법을 위반했다″며 원고 일부 승소로 판결했습니다.

개인정보 유출이 입증된 26명에게 10만 원, 민감정보가 유출된 23명에게 30만 원, 둘 다 유출된 44명에게는 40만 원의 위자료를 지급하라는 겁니다.

AI의 중요성이 커지는 만큼 윤리적 기준 역시 강화할 필요가 있다는 지적이 나옵니다.

[전창배/국제인공지능윤리협회 이사장]
″원칙이나 기준이 아직 마련되어 있지 않은 상황이기 때문에 개인정보나 저작권 콘텐츠를 수집할 때는 반드시 사전에 명확한 고지를 하고 동의를 받고 수집을 해야 하겠고요.″

스캐터랩 측은 ″당시 업계에서 활용되던 수준의 문구 등을 참고해 이용자에게 설명했지만, 급변하는 기술 상황 속에서 엄격한 법적 기준으로 봤을 때 일부 미흡한 부분이 있었다″고 했습니다.

그러면서 ″판결 취지는 존중하지만 법리적으로 면밀히 따질 부분이 있다″며 항소했다고 밝혔습니다.

MBC뉴스 정한솔입니다.

영상취재: 이지호 / 영상편집: 임혜민

개인정보 몰래 학습한 AI 챗봇‥법원 "최대 40만 원 배상"