말 많고 탈 많은 AI 이루다결국 조사 착수

뉴스데스크김윤미

Your browser doesn't support HTML5 video.

◀ 앵커 ▶

출시된 지 한 달도 안 된 인공지능 챗봇 서비스 ′이루다′가 각종 윤리 논란에 휩싸였습니다.

처음엔 이루다를 대상으로 한 이용자들의 성희롱이 논란이었는데, 이번엔 이루다를 만드는 과정에서 남의 대화 내용을 허락도 받지 않고 학습시켰다는 의혹이 제기됐습니다.

정부가 조사에 착수했습니다.

김윤미 기자가 취재했습니다.

◀ 리포트 ▶

채팅창에 ′뭐하고 있느냐′고 질문하자 3초도 안돼 ′영화 보고 있다′는 대답이 올라옵니다.

요즘 날씨가 너무 춥다는 말에는 ′너무 추워서 눈물이 날 정도′라는 평범한 대화가 오가기도 합니다.

국내 한 중소기업이 만든 인공지능 챗봇 ′이루다′와의 대화입니다.

개발업체는 실제 연인들이 채팅창에서 나눈 대화 100억 건을 학습시켜, 이루다의 말투와 반응이 사람처럼 자연스럽다는 점을 내세웠습니다.

하지만 일부 사용자들이 20대 대학생 여성으로 설정된 이 인공지능을 향해 무차별 성희롱을
시도해 논란이 일기도 했습니다.

이 논란이 가라앉기도 전에, 이번에는 또 다른 문제가 제기됐습니다.

개발업체가 인공지능 학습을 위해 실제 연인들의 카카오톡 대화를 수집하면서, 실제 대화 주인공들에게 이런 사실을 충분히 알리지도, 허락받지도 않았다는 겁니다.

또 이루다가 대화 도중 특정인의 실명이나 집 주소, 은행 계좌번호 등을 말하는 걸 보면 개인정보를 알아볼 수 없게 만드는 ′익명화′도 제대로 이뤄지지 않았다는 지적입니다.

[전창배/인공지능윤리협회 이사장]
″충분한 품질 검사를 해야 됩니다. 인공지능은 인간에게 미치는 영향이 크기 때문에 오히려 반복적이고 충분한 시뮬레이션을 거쳐서 문제점을 찾고 출시를 해야 하는데…″

당장, 카카오톡 대화 내용이 인용된 이용자들은 집단 소송에 나서겠다고 밝혔습니다.

한국인공지능윤리협회 등이 이루다가 동성애나 장애인 등에 대해 편향성을 보이고 있다며 서비스 중단을 요구한 가운데, 정부도 개인정보보호법 위반 여부에 대한 조사에 착수했습니다.

MBC뉴스 김윤미입니다.

(영상취재 : 강재훈 / 영상편집 : 정지영)

<b style=″font-family:none;″>MBC 뉴스는 24시간 여러분의 제보를 기다립니다. </b>

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

말 많고 탈 많은 AI '이루다'…결국 조사 착수