행안부, 딥페이크 잡아내는 AI모델 개발‥"수사 역량 강화"

늘어나는 딥페이크 범죄에 대응하기 위해, 정부가 수사에 활용할 수 있는 인공지능 기반 분석모델을 구축했습니다.

행정안전부는 국립과학수사연구원과 함께 2024년 8월부터 9개월 동안 총 231만 건의 데이터를 학습시켜 딥페이크 합성 여부를 자동 판별할 수 있는 AI 모델을 개발했다고 밝혔습니다.

이 모델은 영상 속 인물의 부자연스러운 움직임 등 합성 흔적을 탐지해, 합성 확률과 시간대별 변조율을 수치화해 제공합니다.

행안부 관계자는 "기존 위변조 감정 기법은 대조 파일이 있을 때만 비교 분석이 가능했지만 이번 모델은 대조 파일 없이도 딥페이크 여부를 판별할 수 있다"며 "감정 범위가 확대되고 분석 시간도 단축돼 수사 효율이 높아질 것"이라고 설명했습니다.

실제로 행안부는 지난 5~6월 경찰청 의뢰를 받아 대통령 후보 관련 선거범죄 13건, 디지털 성범죄 2건 등 15건의 감정에 해당 분석모델을 활용했습니다.

행안부는 이 모델을 여성가족부, 방송통신위원회 등 유관기관에도 단계적으로 보급하는 방안을 검토하고 있습니다.