[아하!] 딥페이크 제작 5분도 안 걸려 '소름 쫙' (영상)

딥페이크 영상 앱으로 '뚝딱'…사진 사용·공유 등 제한 없어

[더팩트ㅣ선은양 기자] 세상을 떠들썩하게 만든 키워드가 있습니다. 바로 '딥페이크(Deepfake)'인데요.

최근 고등학교 학생들 사이에서 여학생의 사진을 불법 합성물(딥페이크)로 제작해 텔레그램으로 공유한 사실이 알려져 '딥페이크'가 사회문제로 떠올랐습니다. 학교는 물론 군대, 연예계까지 피해 규모도 커지고 있는데요.

홍희진 진보당 공동대표(왼쪽)와 김재연 진보당 상임대표가 31일 오후 서울 종로구 영풍문고 앞에서 열린 '딥페이크 성범죄 강력수사'를 촉구하는 집회에 참석해 피켓을 들고 있다. /박헌우 기자

딥페이크(Deepfake)는 '딥 러닝'(Deep Learning)과 '페이크'(Fake)의 합성어로 특정 인물의 얼굴이나 목소리를 인공지능(AI)을 이용, 영상이나 음성에 합성해 실제인 것처럼 보이게 만드는 기술을 의미합니다. 기술이 대중화되면서 스마트폰 어플리케이션(이하 앱)을 활용해 초보자도 쉽게 딥페이크 사진과 영상을 만들 수 있습니다.

딥페이크 제작은 어렵지 않은데요. 문과 출신 기자도 5분 안에 만들 수 있는 수준입니다. 딥페이크를 생성하는 앱을 다운로드 받고, 원하는 영상을 선택하고 영상 속 얼굴과 바꾸고 싶은 사진을 설정하면 됩니다.

두 설정을 마치면 '페이스 스왑(Face Swap·얼굴 바꾸기)' 버튼이 나타나고 이 버튼을 누르면 10초도 지나지 않아 영상 속 얼굴이 사진 속 얼굴로 바뀝니다. 생성된 영상은 mp4 파일 형태로 소장할 수 있고, 누구에게나 공유 가능합니다.

'딥페이크' 스마트폰 어플리케이션을 활용해 딥페이크 영상을 쉽게 만들 수 있다. / 리페이스(Reface) 갈무리

딥페이크는 제작할 때 별다른 제한이 없기 때문에 악용 가능성이 높습니다. 법에는 딥페이크를 범죄에 악용했을 경우 이를 처벌할 수 있는 조항이 적습니다.

최근 논란이 되고 있는 '딥페이크 성착취물'처럼 딥페이크를 성범죄에 악용할 경우 이를 처벌할 수 있는 조항은 현행 법 가운데 '성폭력 범죄 처벌에 관한 특례법 14조의 2' 하나뿐입니다.

이는 허위 영상물 등의 반포 등을 처벌하는 규정으로 사람의 신체를 촬영 대상자의 의사에 반해 촬영 및 반포한 경우 7년 이하의 징역 또는 5000만 원 이하의 벌금에 처한다는 내용을 담고 있습니다. 이마저도 유포했거나 유포할 목적이 입증돼야 처벌이 가능해 개인이 만들고 보는 것은 처벌할 수 없습니다.

상황이 이렇다 보니 딥페이크 성착취물 범죄의 증가세는 두드러지지만 구속률은 낮은 실정입니다. 경찰청에 따르면 허위 영상물 범죄 발생 건수는 2021년 156건, 2022년 160건에서 지난해 180건으로 늘었고, 올해는 7개월간 297건이 발생했습니다.

그러나 지난 3년간 허위 영상물 범죄로 검거된 257명 중 구속된 인원은 12명(4.7%)에 불과했고, 올해 구속률도 2.7%(검거 146명 중 구속 4명) 수준입니다.

추경호 국민의힘 원내대표(가운데)가 3일 서울 여의도 국회에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회'에서 발언을 하고 있다./국회=배정한 기자

국회와 정부는 사안의 심각성을 인지하고 딥페이크 성범죄에 대한 처벌 강화를 추진하고 있습니다. 국민의힘과 정부는 지난달 29일 국회에서 '딥페이크 성범죄 관련 부처 긴급 현안 보고'를 열고, 딥페이크 성범죄 예방 대책을 논의했습니다.

당정은 현행 최대 5년인 허위 영상물 유포 등의 형량을 7년으로 늘리는 방안을 추진합니다. 딥페이크 게시물을 유포한 사람뿐만 아니라 제작자도 처벌 대상에 포함하도록 법을 보완하고, 텔레그램과 협력해 불법 정보를 자율 규제할 수 있도록 하는 핫라인 확보를 추진하기로 했습니다.

yes@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write