가짜뉴스 보다 더 쎈 '딥페이크'...우리사회는 대응할 수 있을까?

[디지털투데이 석대건 기자] 가짜뉴스보다 더 큰 적이 오고 있다.

조작할 수 없을 것만 같았던 영상 속을 얼굴을 조작하는 '딥페이크(Deepfake)'가 대한민국을 흔들 준비 중이다.

포브스에 따르면, '딥페이크'란 가짜 동영상을 만드는 AI기술 혹은 조작된 동영상 그 자체를 뜻한다. 여기서 조작되는 부분은 동영상 속 인물로, AI를 통해 지금까지의 조작 수준과는 차원이 달라 실제와 구분할 수 없을 정도로 정교하게 제작되기 때문에 새로운 개념을 가지게 됐다.

'딥페이크'의 단어 유래 역시 동영상 속 등장 인물을 조작한 이의 인터넷 아이디에서 비롯됐다. 지난 2017년 12월 온라인 소셜 커뮤니티 레딧(Reddit) 유저인 '딥페이커즈(deepfakes)'는 포르노 비디오 영상 속 인물의 얼굴을 악의적으로 유명인의 얼굴과 교체 · 합성해 유통시켰다.

오차를 줄이는 방식으로 '가짜'를 '진짜'로 만들어

'딥페이크'에서 쓰이는 AI기술은 '생성적 적대 신경망(Generative Adversarial Networks, 이하 GANs)'이다.

'GANs'의 원리는 두 객체의 대립을 통해 오차를 줄이는 방식. 이미지를 예로 들면, 오바마 전 미국 대통령과 일반인의 얼굴 움직임에 적용시키면, GANs은 서로의 차이를 일치시키는 과정을 통해 일반인 얼굴과 동일하게 움직이는 오바마의 얼굴 영상을 만들어낼 수 있다.

'GANs'을 통한 딥페이크 영상 제작 과정 (사진=arxiv)

'GANs'을 통한 딥페이크 영상 제작 과정

이미 전 세계적으로 딥페이크 기술은 여론 몰이용 악의적 공격의 수단으로 이용됐다.

지난 '18년 4월 인도에서는 정권에 비판적인 여성 언론인의 얼굴을 포르노에 합성한 딥페이크 영상이 유포됐다. 또 멕시코 대선에서는 딥페이크 기술로 조작된 음성이 가짜 뉴스로 만들어지기도 했다. 대통령 후보자 캠프의 관계자들이 공금을 횡령한다는 내용이었고, 이는 대선 형국에 영향을 줬다.

국회입법조사처 측은 "딥페이크의 부정적 파괴력은 아직 충분히 드러나지 않았고 정치·경제·외교안보 등 다양한 분야에 큰 영향을 미칠 수 있다"며, "딥페이크의 가장 큰 위험은 일반국민은 물론 정부도 무엇이 진짜 또는 가짜인지를 식별할 수 없는 상황이 될 수 있다는 것"이라고 분석했다.

이어 "우리국회에서도 약 20여 건의 허위정보에 대한 법안이 제출되어 있지만, 딥페이크에 대한 대응은 부재한 상태"라고 지적했다.

(오마마 전 미국 대통령의 얼굴을 조작한 딥페이크 영상)

"우리 법 제도가 과연 기술 변화에 제대로 대응할 수 있을지 의문"

사회적으로 보면 더 큰 문제는 '악의적 목적의 딥페이크 음란 영상'이 지적된다. 딥페이크 영상은 불법적인 포르노 시장에서 급격하게 확산 중이다.

네덜란드의 사이버 보안 연구 회사 '딥트레이스'의 딥페이크 연구 보고서에 따르면, 유통 중인 딥페이크 포르노 비디오가 2019년 10월 현재 약 1만 4698개에 달한다고 밝혔다. 10개월 만에 약 2배로 급증한 수치이며, 다크웹에서 유포 중인 딥페이크 영상은 파악조차 되지 않는 실정이다.

게다가 딥페이크 영상의 피해자 중 25%가 한국 여자 아이돌로 드러나, 우리나라의 딥페이크 기술의 무법지대로 전락하고 있다. 현재 우리 법 제도상에서는 딥페이크 영상은 리벤지 포르노로 분류돼, 정보통신망 이용 촉진 및 정보보호 등에 관한 법률 70조(사이버 명예훼손)에 따라 처벌 받는다.

이전에는 악의적으로 지인의 얼굴 사진을 나체 사진과 합성·배포했음에도 제대로 법적 처벌이 어려워 논란이 되기도 했다. 딥페이크 영상에도 똑같은 일이 반복되고 있는 것.

(사진=텀블러)

피해 당사자가 직접 신고 접수하고, 또 자신이 딥페이크 영상을 보면서 증거 수집까지 해야 하기 때문에 우울증 등 2차 피해로 이어질 가능성도 높다. 심지어 피해 사실 자체를 알지 못하는 경우도 다반사다.

또 법 조항이 '상업적 목적으로 제작해 유포하는 행위'에 초점이 맞춰져 있어, 처벌이 이뤄진다고 해도 범죄자는 대부분 벌금형이나 짧은 징역형에 그친다. 만약 얼굴 아닌, 신체 일부가 가려져 있어, 음란물로 아닌 것으로 규정될 경우 형은 더욱 낮아진다.

AI 스타트업 관계자는 "모든 기술의 당연히 양면성이 있어, 좋은 기술일수록 나쁜 기술이기도 하다"며, "AI도 마찬가지인데, 우리 법 제도가 과연 AI 기술에 제대로 대응할 수 있을지 의문"이라고 지적했다.

이어 "기술 자체를 규제하기보다는 기술을 남용하는 이들을 제대로 처벌할 수 있는 법이 빨리 구축되길 바란다"고 말했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>