요즘 일본은 TV뉴스를 틀면 딱 2개만 나온다는 말이 있습니다. 즉 다카이치 총리 소식과 그리고 곰뉴스외에 다른 뉴스는 없다는 말입니다. 그 정도로 곰이 이슈가 됐는데 그럴 것이 일본 환경성 등의 집계에 따르면 올해 들어 일본에서 곰 때문에 목숨을 잃은 사람이 13명이고요. 부상자가 200명을 넘었습니다.

이제까지 가장 많은 사망자가 나왔던 때가 지난 2023년 6명이었는데 벌써 2배 넘게 나온 겁니다.
곰의 습격이 벌어지는 지역도 광범위해져서 전엔 홋카이도에 집중된 반면 이젠 혼슈 동북지역에서 피해가 속출하고 있고요. 심지어 교외지역이긴 하지만 도쿄도에서도 곰이 목격되기 시작했습니다. 이런 상황이다 보니 피해가 많은 아키타현 등에는 자위대까지 투입돼 곰 막기 총력전이 벌어지고 있습니다.

그런데 이 와중에 곰에 관한 또 다른 이슈가 발생하고 있습니다. 먼저 일본의 SNS에서 곰, 일어로는 쿠마(クマ)를 검색하면 뜨는 상위권에 뜨는 영상들 일부를 캡처해 소개해드립니다.아파트를 거대한 곰이 기어올라가고 있고 사람들이 옆에서 이 모습을 사진을 찍고 있습니다. 도심의 아파트에까지 홋카이도 삼림에나 있는 불곰이 온 것 같은 상황인데 상황은 이상하지만 그림은 자연스럽습니다.이 영상에선 시바견을 산책시키던 사람들이 곰을 만난 것처럼 보이는데 개가 짖자 곰이 물러섭니다.
개가 짖는다고 곰이 물러설까 하고 의문을 가질 수 있지만 일단 영상만 봤을 때는 개가 여러 번 짖고 곰이 천천히 물러서는 모습이 아주 어색하진 않습니다. 또 뒤에 경찰차가 서있는 것도 현실적이고요.

▶ 이 기사는 유튜브의 MBC뉴스채널 '골라본세상' 코너에서 영상뉴스로도 보실 수 있습니다.
https://www.youtube.com/watch?v=omxWgqVys78




그런데 이들 영상의 아래에 보면 'Sora'라는 글자가 찍혀있습니다. 즉 OpenAI사의 AI를 이용한 가상영상 제작툴인 Sora를 이용해 만들어진 영상이란 의미입니다.

틱톡이나 X에 일본어로 곰을 뜻하는 쿠마를 치면 진짜 곰 영상 이상으로 가짜 곰영상들이 뜨고 있습니다. 사실은 진짜 영상보다 가짜가 더 많이 뜬다고 봐야 하는데요. 이런 만들어진 영상들은 조회수도 엄청난데 어떤 건 300만 번 이상 클릭된 영상도 있습니다. 이렇게 가짜 곰영상이 진짜 곰영상 이상으로 범람하면서 NHK가 최근에 심층뉴스로 이 문제를 다뤘고요. 일본팩트체크센터도 가짜 곰영상에 대한 주의보를 발령한 상태입니다.


이런 가짜 곰영상들은 물론 재미삼아 만든 것도 있을 겁니다. 하지만 또 더 중요하게는 일본에서 곰이 워낙 모두의 관심사니까 영상에 곰만 나와도 조회수가 올라가니, 이 기회에 조회수를 올리려는 의도로 만들었다고 봐야겠죠. 그래도 재미를 추구해 만든 영상들은 AI로 만든 영상임을 밝히고 있고 쉽게 파악도 가능합니다. 하지만 그렇게 쉽게 구별이 되지 않는 영상들이 많다는 것이 문제입니다.이 영상에선 빗자루를 든 할머니가 반달곰을 혼내고 있습니다. 아마도 쓰레기봉투를 찢어서 어지럽혀놓으니 이걸 야단치는 것 같습니다. 상황 자체는 인과관계가 명확합니다. 곰이 어지럽혀서 할머니가 곰에게 삿대질은 한다는 원인과 결과가 있으니까요. 물론 곰이 얌전히 할머니에게 혼난다는 상황을 문제시하기 전까지는요. 게다가 영상 자체는 자연스럽고 곰이나 인물들의 표정도 이상하지 않습니다.이 영상은 밭에 들어온 곰을 농기계에 탄 농부가 쫓아내는 것입니다. 농작물을 망치는 곰을 농부가 혼내며 쫓아낸다는 역시 인과관계는 있는 그래서 자연스런 이야기로 수용될 수 있는 영상입니다. 게다가 농기계에 탔으니 곰이 놀라서 도망갈 수도 있지 않을까 하는 추론도 들 법도 합니다. 그런데 역시나 그림3의 영상이나 이 영상이나 모두 AI로 만든 가짜입니다.

그런데 이들 그림3과 4의 영상들은 모두 'AI제작영상'이란 문자가 없습니다. 이러면 영상도 사실적인데 구별하기가 쉽지 않습니다. 이렇게 AI로 만들었다는 자막이 안 붙거나 있어도 하단에 작게 나올 뿐인 영상들도 많이 오르고 있습니다. 또 이들 영상에 나오는 배경과 인물들도 문제입니다. 맨 앞에 보여드렸던 아파트 올라가는 곰도 그렇고 슈퍼마켓에 침입한 곰 같은 가짜영상도 많은데 다 일본인들에게 친숙한 장소들입니다. 등장인물들도 일본의 농부, 할머니 등이 등장하고 또 시바견이 많이 나와요. 일본인들에게 익숙하고 또 흔히 볼 수 있는 인물과 배경들이란 거죠. 이러면 진짜 네티즌이 찍어 올린 영상이거나 지역방송뉴스에서 나온 것 같은 심리적 믿음을 주는 효과가 나오게 되는 겁니다.

이런 가짜 영상들을 진짜라고 믿고 보거나 혹은 그렇게까지 믿진 않더라도 경계감 없이 반복시청하다 보면 곰에 대한 경계와 조심성이 사라질 수 있습니다. 곰을 몰아내는 농부나 심지어 맨손으로 혼내는 할머니 영상 같은 것을 자주 보다 보면 실제 곰을 만나도 그렇게 소리쳐서 혼내면 되나 보다 하고 잘못 생각할 수도 있는 겁니다.

게다가 이런 영상들과 함께 잘못된 정보를 담은 가짜뉴스도 역시 퍼지며 문제가 커지고 있습니다. NHK가 이 부분을 지적하고 있는데요. SNS인 X에 곰을 쫓는 방법에 대한 글들이 올라오는데 그중에 '곰방울은 오히려 역효과만 난다'라든가 '도토리 같은 먹이를 뿌리면 된다'란 글들이 수백만 회 조회되고 있다는 겁니다.

우선 곰방울은 등산객들이 곰을 쫓기 위해 다는 방울인데 X에선 이걸 달아봤자 오히려 곰이 달려들 수 있다는 글들이 올라오고 있습니다. 그런데 사실은 곰 생태전문가들에 따르면 곰은 청력이 날카로워서 이런 방울소리 들으면 대부분은 피해버린다고 합니다. 실제 방울을 단 등산객이 곰에게 피해보는 사례는 거의 없다는 것도 곰방울이 곰의 접근을 막아준다는 증거가 됩니다. 그러니 곰방울을 달면 역효과가 난다, 즉 곰을 오히려 부른다는 글은 가짜 정보죠.

또, 도토리를 뿌리면 된다, 그러니까 도토리를 줘서 곰을 배부르게 해주면 곰 피해를 막을 수 있다는 글들도 오르는데 역시 틀린 정보입니다. 먹을 것을 뿌리면 오히려 곰이 먹이를 찾아오게 돼서 위험해진다고 합니다. 또 도토리를 줘서 곰을 배부르게 한다는 것 자체도 어려운 일인 것이 곰을 배부르게 할 정도로 도토리를 주려면 수십 킬로그램은 뿌려야 한다고 하니 역시 가정부터 실현이 어려운 일입니다.


특히 요새 일본의 네티즌들 사이에서 새로 많이 도는 주장이 있는데 뭐냐 하면 곰피해가 늘어난 원인이 태양광발전 때문이라는 겁니다. 그래서 곰들이 '숲을 돌려달라, 태양광에 반대하다'는 푯말을 들고 행진하는 AI제작 영상들도 올라오고 있고요. 또 태양광 패널 사이를 달리다 패널을 부수는 그럴듯한 AI제작 가짜 곰영상들도 많이 올라오고 있습니다.

이런 영상을 올리며 네티즌들이 알리려 하는 건 태양광발전소가 생기며 곰이 터전을 잃어서 대신 사람들의 영역에 들어와 습격을 하고 있다는 주장입니다. 곰이 사는 숲이 헐리고 대신 태양광 패널들이 깔리면서 일어난 일이라는 겁니다.그런데 NHK가 팩트체크한 것을 보면 태양광 발전을 위해서 개발된 일본 산림면적은 지난 2013년부터 2022년까지 10년간 2만 1천 헥타르인데 일본 전체 산림에서 0.08%에 불과하다고 합니다. 또 태양광 설비가 설치되는 곳 대부분은 곰이 서식하는 삼림이 아니라 마을에 가까운 곳의 인공림이나 초원이라는 겁니다. 결국 태양광 때문에 곰습격이 늘었다는 건 틀린 정보이고요, 재생에너지로 인한 산림 개발에 반감을 가진 일본 네티즌들이 이런 영상을 만들었을 가능성이 있습니다.


이런 가짜영상의 범람에 대해 일단 일본팩트체크센터가 대책을 내놓고 있는데요. 일본팩트체크센터는 라인야후, NTT 같은 미디어기업들이 만든 인터넷 안전협회 산하기관입니다. 저널리즘 교수, 변호사, NHK나 아사히 신문기자 등 전문가들이 모여서 가짜뉴스를 체크하고 시민들도 스스로 골라낼 수 있게 미디어 교육을 시키는 기구입니다.

이번 가짜 곰영상들에 대해 일본 펙트체크센터는 장난으로 만든 영상이라도 실제 상황으로 오해될 수 있고 특히나 생명과 관련된 사안에선 특히나 대중의 주의가 필요하다고 경고했습니다. 그러면서 가짜영상들은 어떤 특징을 갖고 있는지 설명도 했는데요. 일단 이렇게 만들어진 곰영상 대부분은 Open AI사의 영상 생성 AI인 Sora를 사용해 제작돼서 'Sora'라는 워터마크가 나오고 이를 보면 AI생성 영상임을 알 수 있습니다.

이어 '문자왜곡'과 '부자연스런 물리적 묘사'도 구별요령이라고 팩트체크센터는 밝혔습니다. 먼저 동영상에 나오는 간판들이나 물건에 찍힌 문자를 잘 보라는 설명입니다. AI생성 영상에선 문자들이 영어나 일어가 아닌 이상한 글자로 나오거나 찌그러진 글자로 나오는 경우가 많다는 거죠. 또 곰이나 사람의 움직임이 부자연스런 영상도 있고 이런 움직임에 주의해도 구별이 가능하다는 겁니다. 팔이나 다리의 움직임이 어색한 영상들도 꽤 있습니다. 또 곰이 유리창을 깨거나 문을 부수고 들어가는데 유리가 다시 붙거나 문이 덜 부서지는 영상들도 있습니다. 물리적 움직임에서 AI가 아직 부자연스런 묘사를 하는 경우가 있기 때문입니다.

그런데 앞서 일부 영상들의 예처럼 워터마크가 없는 영상들도 늘어날 겁니다. 또 점점 AI기술은 발전할 것이고 문자왜곡이나 물리적 묘사도 자연스러워질 가능성이 큽니다.

그래서 보다 실제적인 기술적 대책이 필요한데요. 우선 필요한 것은 생성형 AI서비스로 영상을 만들면 그 영상에 AI로 만들었다는 출처를 디지털 정보로 넣는 겁니다. 이건 영상에 표시되는 워터마크가 아니라 영상데이터에 붙는 디지털 라벨링이어서 탐지프로그램에게 '나는 AI영상'이다 알려주는 역할을 하고요. 그래서 자동으로 AI생성 여부가 감지되는 겁니다.

두 번째로 미디어기업들에게 자사의 플랫폼에 올라온 글들을 모니터해서 가짜 영상을 찾아 삭제하는 걸 의무화할 필요도 있습니다. 물론 여기서 가짜 영상을 찾아낼 때도 AI가 동원됩니다. AI를 찾는 것도 AI가 가장 잘하니까요.

AI기술이 발전할수록 편리하게 할 수 있는 것도 늘지만 그만큼 AI로 벌어질 피해도 많아집니다. 가짜 곰영상도 그 한 예라 하겠습니다. 이런 것을 모두 미리 규제하거나 찾아서 삭제하는 것도 아직은 속도가 더딥니다. 일단은 인터넷 사용자들 스스로가 분별력을 갖고 여러 정보를 접하면서 판단해서 구별해낼 필요도 있습니다. 곰뿐 아니라 딥페이크 같이 보다 광범위하고 더 구별이 어려운 AI영상의 시대에 우리는 살고 있으니까요.

---

《뉴스인사이트팀 전봉기 논설위원》