본문 바로가기 메뉴 바로가기
뉴스데스크
기자이미지 정동욱

범람하는 딥페이크‥가짜 목소리를 찾아라

범람하는 딥페이크‥가짜 목소리를 찾아라
입력 2024-05-24 20:25 | 수정 2024-05-24 21:08
재생목록
    ◀ 앵커 ▶

    AI 기술이 발전하면서 진짜를 흉내 낸 음성과 영상으로 만든 가짜 뉴스, 선거 조작, 그리고 각종 범죄까지 걱정되는 상황인데요.

    또 한편에선 AI 기술을 이용해 이를 탐지하고 막기 위한 연구도 한창입니다.

    정동욱 기자가 취재했습니다.

    ◀ 리포트 ▶

    미국 정부가 벌금 82억 원을 부과하기로 한 미국 대통령의 목소리.

    [조 바이든/미국 대통령 (가짜 음성)]
    "당신의 표를 11월 선거를 위해 아껴두는 게 중요합니다."

    AI 기술이 만든 가짜입니다.

    미국 대선에 영향을 미칠까 우려될 정도인데, 요즘 이런 건 얼마든지 만들 수 있습니다.

    기자가 15초 길이 문장 3개를 읽어 입력하니, 바로 가짜 음성이 생성됐습니다.

    [정동욱 기자 (가짜 음성)]
    "되게 좋은 투자할 곳을 찾았어. 500만 원만 내면 된대."

    AI 기술을 악용한 보이스피싱까지 현실화 됐는데, 반대편에선 이를 막을 탐지 기술 연구가 한창입니다.

    영화 HER의 목소리 스칼렛 요한슨과 비슷하다고 논란인 오픈AI의 스카이입니다.

    [GPT-4o '스카이']
    "안녕 마크, 난 잘 지내고 있어. 안부 물어봐 줘서 고마워! 너는 어때?"

    어플을 켜자 AI 목소리일 확률이 90% 이상으로 표시됩니다.

    AI 목소리가 생성되는 알고리즘을 학습하고 숨소리, 주파수, 음역 등을 분석해 가짜 음성을 가려내는 겁니다.

    [정수환/숭실대학교 정보통신전자공학부 교수]
    "아마 틀린 그림 찾기 같은 걸 생각을 해보시면 되는데‥딥러닝 기술 중에서 대조 학습 기술이 있거든요. 그런 기술을 이용해서 아주 미묘한 차이들을 찾아냅니다."

    전화가 오면 보이스피싱인지 아닌지 판단하는 AI 기술도 개발 중입니다.

    [정동욱 기자 (가짜 음성)]
    "엄마 나 지금 급한데 내가 말한 계좌로 돈 좀 보내줘."

    미리 가족의 목소리를 학습시켜 놓고 사람인지 아닌지 AI가 구분하는 방식입니다.

    [박지웅/LG유플러스 AI음성기술팀 팀장]
    "말하는 보이스랑 등록된 보이스가 얼마나 유사한지 유사도 검색을 하는 그런 딥러닝 모델을 사용을 하고 있고요."

    최대한 인간과 비슷해는 게 목표인 AI 기술, 부작용을 막을 방패 역시 AI 기술로 만들고 있습니다.

    MBC뉴스 정동욱입니다.

    영상취재: 남현택 / 영상편집: 조민서

    MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

    ▷ 전화 02-784-4000
    ▷ 이메일 mbcjebo@mbc.co.kr
    ▷ 카카오톡 @mbc제보

    당신의 의견을 남겨주세요

      인기 키워드

        취재플러스

              14F

                엠빅뉴스