서울시 "AI 기술로 아동·청소년 성착취물 90초 만에 찾아 삭제"

아동·청소년 디지털 성범죄 AI 감시시스템 활용 전·후 비교 [서울시 제공]

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 전국 최초로 개발해 도입했다고 밝혔습니다.

이번에 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 안면인식 기술을 이용해 성인과 구분이 어려운 아동·청소년의 성별과 나이를 판별할 수 있습니다.

특히 영상물에 얼굴이 나오지 않더라도 영상물에 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년이 주로 사용하는 언어를 분석해 피해 영상물 여부를 판별하게 됩니다.

키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않아 기존 수작업으로 찾아낼 때 걸리는 시간인 2시간과 비교해 검출 속도가 80분의 1로 개선됐습니다.

해당 기술 도입으로 디지털 성범죄 피해를 제때 신고하지 못해 피해 영상물이 재유포되는 경우가 많은 아동·청소년의 성착취물을 빠르게 찾아내 삭제할 수 있을 것으로 기대됩니다.

앞서 서울연구원은 지난해 3월부터 해당 기술을 구현하기 위한 연구개발에 착수했으며, 최근 프로그램 개발을 완료했습니다.