[인터뷰] "성착취로 이어진 딥페이크…전국 중고생이 홍보책"

'딥페이크 성범죄물' 텔레그램방 시장화됐다

AI 통해 사진·동영상 합성…가상화폐로 거래

피해자에 딥페이크 영상 보내 반응 살피기도

피해자들, 피해상황 캡처해서 증거 남겨놔야

■ 방송 : CBS 라디오 <김현정의 뉴스쇼> FM 98.1 (07:10~09:00)
■ 진행 : 김현정 앵커
■ 대담 : 원은지 (추적단 불꽃)

딥페이크, 즉 인공지능 기술을 활용해서 실제가 아닌 것을 실제처럼 만들어낸 영상 편집물을 뜻하는 말이죠. 이 딥페이크 기술을 악용해서 연예인들의 음란물 만드는 거는 벌써 몇 년 전부터 벌어졌던 사건입니다. 그런데 바로 그것이 일반인들에게까지 광범위하게 퍼져가고 있습니다. 특히 전국의 중학교, 고등학교에서 마치 하나의 유행처럼, 놀이처럼 퍼져가고 있다는 건데요. 그러다 보니까 피의자와 피해자를 특정하기도 어려울 정도로 확산하고 있답니다. 딥페이크, 이거 하루 이틀 된 기술도 아닌데 어떻게 갑자기 이렇게 광풍처럼 퍼진 건지 궁금하고요. 또 왜 특히 중고생들 사이에서 이렇게 번지고 있는 건지 궁금합니다. 원은지 활동가를 모셨는데, 어서 오십시오, 원은지 활동가님.

◆ 원은지> 네, 안녕하세요. 원은지입니다.

◇ 김현정> 지금도 그 n번방 사건 세상에 알린 추적단 불꽃에서 활동하고 계신 건가요?

◆ 원은지> 네, 맞습니다.

◇ 김현정> 그렇죠. n번방 세상을, n번방 사건을 세상에 알린 곳. 몇 년 전 그 n번방 사건 때문에 텔레그램이라는 곳에서 얼마나 은밀하게 성범죄물이 만들어지고 유통되는지까지는 우리가 알았거든요. 활동가님. 그런데 그때 그 사건하고 지금의 이 상황하고는 어떻게 다른 건지 거기서부터 얘기를 좀 풀어가 보죠.

◆ 원은지> 사실 n번방 사건, 박사방 사건의 피해자들은 어떤 물리적인 폭력이나 또는 가해자와의 어떤 직간접적인 접촉이 있었습니다. 그래서 본인이 피해자가 되었다, 피해가 발생했다는 사실을 인지할 수 있는데요. 그런데 이번에 이런 딥페이크 성착취 사건들 같은 경우에는 내가 언제 어떻게 피해자가 될지 모르는 정말 두려운 상황이라고 보시면 됩니다.

◇ 김현정> 저희가 지금 화면에 원은지 활동가의 얼굴은 일부러 담지 않고 있다는 건 여러분 보시는 분들 양해해 주십시오. 유튜브로 보이는 화면에는 원은지 활동가의 신원을 보호하기 위해서 얼굴은 담지 않고 있다는 거 여러분 양해해 주십시오. 즉 그때는 박사방의 조주빈, 무슨 방에 누구, 이렇게 특정이 됐고 피해자들도 특정이 됐고 또 피해자들한테 너 가가지고 뭘 찍어서 올려, 이렇게 실제 행위를 시킨 거였다면 이번에는 피해자한테 뭘 시키지 않고 그냥 사진만 가지고 만드는 거기 때문에 누가 피해를 당했는지도 모르고 피의자의 수도 아주 엄청나게 지금 많은 거죠?

◆ 원은지> 맞습니다. 또 특히 문제는 이게 개인, 그러니까 10대 학생들이 개인적으로 운영하는 방만 있는 것이 아니라 이 행위 자체가 시장이 되어서 여러 불법 업체가 지금 이런 대화방들을 운영을 하고 있다는 게 문제입니다.

◇ 김현정> 저는 이런 부분이 처음엔 잘 이해가 안 갔어요. 사실 딥페이크 영상물을 만들어주는 앱은 많아요. 제가 지금이라도 당장 휴대폰으로 그 앱은 다운 받을 수 있습니다. 잠깐 여기서 여러분 만들어볼까요? 제 얼굴 사진 한 장을 가지고 딥페이크 앱에다가 넣어서 순식간에 뚝딱 만든 영상물이거든요. 해변에서 제가 춤을 춥니다. 보시죠, 한번. 제 사진, 제 저 한 장짜리 사진을 가지고 그 딥페이크 만드는 앱에 넣어서 제가 해변에서 막 춤추고 손 흔들고 저는 저런 해변에 간 적이 없어요. 저런 사진 영상을 찍은 적이 없는데 감쪽같이 뚝딱 만들어낸 영상을 여러분 지금 보고 계십니다. 이렇게 제 얼굴이에요. 분명히 저입니다. 이 딥페이크 기술 엄청나게 발전했습니다. 다만 저 앱으로 성범죄물, 음란물을 만들 수는 없어요. 그 앱에서 만들어주지도 않고요. 설사 만들어준다 쳐도 거기에 제 정보가 고스란히 다 입력이 됐기 때문에 나쁜 영상은 만들 수가 없어요. 그런데 나쁜 마음을 먹은 인간들이 이 기술을 가지고, 이 앱을 가지고 텔레그램 안으로 들어갔다 이렇게 보면 되는 건가요?

(출처: 한겨레)

◆ 원은지> 맞습니다. 텔레그램 안에서는 주로 저렇게 바다에서 일상을 보내는 영상과 합성하는 것이 아니라 여성의 나체 사진 또는 음부를 벌리고 있는 사진 또는 성관계하는 듯한 사진 등 그런 것들과 합성을 해서 문제가 되고 있고요. 또 이렇게 딥페이크를 이용할 수 있는 그런 포인트 같은 것도 지급을 해서 국내 청소년들이 이 포인트를 받기 위해서 본인이 이 대화방들을 다른 각종 좀 오픈되어 있는 온라인에 홍보를 하거나 또는 동시에 불법 합성물을 불특정 다수가 있는 대화방들에 공유를 하고 유포를 하고 이런 것으로 확인하고 있습니다.

◇ 김현정> 조금 전에 제가 만들었던 그 딥페이크 영상물 같은 거는 그냥 우리가 여기서 일반적으로 만들 수 있는 거 그거 자체가 불법은 아닌데 거기서는 음란물을 만들어주지 않으니까 그 기술을 가지고 은밀한 곳 텔레그램으로 숨어든 업자와 일반인들, 이런 사람들이 거기에서 유통시키고 있다는 이야기. 원은지 활동가님 예시를 한번 보면서 그러면 설명을 들어보죠. 그 방을 찾아 들어가면 이런 게 떠요. 누구누구님 안녕하세요. 저는 마법의 사진봇입니다. 사진 속 여자를 시도해 보시면 알게 될 거예요. 하면서 VIP 구매, 친구 초대하기, 이런 거, 채널 가입, 이런 식으로 메뉴가 쭉 있고요.

텔레그램 안에 있는 수많은 방 중에 한 방에 저희가 직접 들어가 봤습니다. 사진을 넣으면 어떤 식으로 만들어주는지 샘플 사진, 저희가 지금 모자이크 처리했습니다만 샘플 사진들이 쭉 있어요. 그리고 우리 마치 그 앱 중에 뷰티 카메라 같은 거 여러분 아시죠? 거기다가 내 사진 넣으면 막 눈도 키워주고 화장 볼터치도 해주고 턱도 깎아주고 이런 것처럼 가슴 사이즈 조절해주고 뭘 조절해주고 뭘 어떻게 해주고 이런 메뉴들이 쭉 있는 겁니다. 다음 장도 좀 보여주십시오. 이런 식이고, 이건 뭐야? 탈의 입구 0, 탈의 입구 1, 이런 식으로 샘플 채널, 완전히 그냥 앱이네요. 그야말로.

◆ 원은지> 네, 맞습니다. 지금 보이시는 저런 탈의 입구 0, 탈의 입구 1 이런 것들은 방의 제목이라고 이해를 하시면 될 것 같고요. 이제 탈의하다, 그러니까 옷을 벗는다라는 뜻이잖아요. 옷을 벗은 피해 여성들의 딥페이크 사진들을 저 안에 들어가면 대화방 안에서 볼 수 있다라는 것으로 이해를 하시면 될 것 같습니다.

◇ 김현정> 그러니까 은밀한 텔레그램이라는 플랫폼에다가 딥페이크 앱을 깔아놓고 돈을 받고 딥페이크물을 만들어주고 있다. 그러니까 바깥 세상에서는 감히 못할 일을 은밀한 공간에서는 신분 숨기고 마음껏 의뢰하고 마음껏 만들어주는 인간들이 있다, 이렇게 여러분 보면 되는 건데 돈은 얼마나 받습니까?

◆ 원은지> 돈은 업체마다 다른데요. 제가 파악하기로는 한 업체는 어떤 상체의 상반신 사진을 합성해 주는데 1크레딧이 필요하다. 예컨대 하나로 약 2650원 정도로 거래되고 있었고요.

◇ 김현정> 1크레딧이.

◆ 원은지> 네, 맞습니다. 그리고 동영상을 만들기 위해서는 5크레딧, 그러니까 1만 3260원 정도가 필요한 것으로 나타났습니다.

◇ 김현정> 사진하고 또 동영상이 다른 거군요.

◆ 원은지> 맞습니다.

◇ 김현정> 10대들이 돈이 넉넉지 않잖아요. 그러니까 돈 내는 대신 이 방을 다른 사람한테, 지인한테 홍보하면 크레딧을 또 주기도 한다면서요?

◆ 원은지> 맞습니다. 전형적인 홍보책으로 쓰는 건데요. 이제 다른 사람을 초대해서 이 사람을 초대했다라고 인증을 하면 일정량의 크레딧을 받을 수 있었습니다.

◇ 김현정> 마치 배달앱에서 왜 지인한테 이 배달앱 선전하면 할인 쿠폰 줍니다. 이런 식으로.

◆ 원은지> 맞습니다.

◇ 김현정> 완전 전형적으로 진짜 앱에서 하는 일들을 다 하고 있는 거네요.

◆ 원은지> 맞습니다.

◇ 김현정> 그런데 이렇게 해서 내가 어떤 여성의 사진으로 음란물을 만든 다음에 나만 만들어서 보고 끝나는 게 아니라 그걸 막 또 공유하는 방은 따로 있는 거예요? 아니면 저 방에서 그것도 같이 하는 거예요?

◆ 원은지> 저 방에서 운영도 같이 한다고 보시면 되는데요. 그러니까 저 방에서 결제를 한 번 한 사람들은 그런 불특정 다수의 여성들의 딥페이크된 이미지들이 공유되는 대화방에 입장할 수 있는 권한도 부여가 되어서요. 그래서 이 유포의 규모는 정말 걷잡을 수 없게 커집니다.

◇ 김현정> 그냥 만들어서 나만 보고 끝내는 게 아니라 그걸 또 다른 방으로 옮겨서 막 서로 올려요?

◆ 원은지> 그렇죠. 서로 내 사진 이렇게 합성이 되었는데 어때? 자랑하고 사진 한 장, 두 장 더 많이 올리면 올릴수록 이 사람에 대한 어떤 인정 같은 것들이 쌓이면서 그 안에서도 좀 나름의 어떤 생태계 자체가 구축이 되는 거죠.

◇ 김현정> 거기다가 그 여성의 딥페이크 성범죄물만 올리는 게 아니라 그 여성의 이름, 연락처, 막 이런 것도 같이 신상 정보도 같이 올린다는 게 사실입니까?

◆ 원은지> 맞습니다. 영상 또는 사진 외에도 이름, 나이, 생년월일, 그리고 신상정보, 사는 곳, 이런 것까지 함께 공유가 됩니다.

◇ 김현정> 그거는 왜 또 같이 올려요? 모르는 불특정인들한테 왜 올려요? 같이.

◆ 원은지> 참 저도 그 부분이 이해가 가지 않는데 이 사진에 있는 여성이 실제로 존재하는 사람이다라는 거를 보여주면서 더 큰 자극을 유도하는 걸로 보입니다.

◇ 김현정> 가짜가 아니라 실제 이런 존재하는 인물을 갖고 내가 이렇게 만들었어 하면 더 말하자면 흥분이 되고 막 이러는 거, 더 자극적이 되는 거예요?

◆ 원은지> 네, 그리고 실제로 그렇게 올리는 사람들은 그 행위 자체로 일탈을 한다라는 감정을 느끼기도 하는 걸로 보입니다.

◇ 김현정> 여러분 지금 이곳에서 만들어지는 딥페이크 영상물이, 음란물이 어느 정도인지를 제가 모자이크 처리를 해서도 못 보여드리겠더라고요. 어느 정도 수위인지를 차마 모자이크 처리를 해서도 못 보여드릴 정도로 그냥 포르노물입니다. 그런데요, 여러분. 그걸 어떤 걸 가지고 만드느냐. SNS에 인스타그램이니 페이스북에다 여러분 일상 사진 막 올리시잖아요. 어디 학교에서 찍은 사진도 올리고 물놀이 가서 찍은 사진 식당에서 찍은 사진 그냥 그 사진 한 장 가지고 그게 만들어지는 거예요. 두 장도 필요 없어요. 한 장이면 된다면서요. 이게 무슨, 그런데 더 심각한 건 이런 식의 텔레그램 방이 도대체 몇 개나 텔레그램상에 존재하는 건지 지금 파악도 어렵다면서요?

◆ 원은지> 네, 파악도 어렵습니다. 사실 제가 2020년도부터 이런 텔레그램 안에서 소위 말하는 지인 능욕, 딥페이크 성착취가 이뤄지는 방들을 2020년부터 보았는데 그 방 안에서 있었던 제가 목격했던 피해자 분, 그러니까 경찰에 신고를 같이 도왔던 피해자분의 영상이 지난해까지도 유포가 됐었어요. 그래서 이 규모가 3000명 이상 그리고 많게는 몇 만 명 이상의 방들이 여러 개가 있기 때문에 이 정확한 규모를 파악하는 것 자체가 어려운 상황입니다.

◇ 김현정> 여러분 조주빈의 박사방, 누구의 이때하고 상황이 완전 달라진 거 이해하셨죠? 처음 이런 식의 딥페이크 텔레그램방의 존재가 세상에 알려진 건 특정 대학방이 있더라. 즉 서울대방, 인하대방 이래가지고 그 학교 여학생들 사진으로 딥페이크 성범죄물 만들어 놓은 걸 모아놓은 방이 있더라. 이렇게 되면서 그게 무슨 소리야? 여기서부터 시작이 된 거예요. 그런데 막 조사를 하다 보니까 대학이 문제가 아니고 중고등학생들 사이에서 이게 엄청나게 퍼져나가고 있더라. 지금 중고교생들 사이에서의 이 마치 놀이 문화처럼 퍼져가는 게 지금 더 심각한 거죠?

피해자가 발생한 학교들

◆ 원은지> 상당히 심각한 상황이고요. 동급생들끼리만 그러는 것이 아니라 선생님들도 타깃이 됩니다.

◇ 김현정> 선생님도 사진만 있으면 되니까.

◆ 원은지> 네, 맞습니다.

◇ 김현정> 피해자들을 인적별로 카테고리별로 나눠 가지고 어느 중학교, 어느 고등학교 막 이렇게 지금 있는데 제가 얘기 들어보니까 지금 리스트가 막 돌고 있거든요. 어느 중학교, 어느 고등학교 쭉 리스트가 돌고 있는데 거기에 있는 학교뿐이 아니라 지금은 그냥 거의 전국의 모든 학교라고 봐야 된다 그러던데요.

◆ 원은지> 그렇죠. 사실 이게 돈이 된다는 걸 텔레그램 안에서 이들이 계속 실험을 했고 알게 되었기 때문에 이게 돈이 되는 이상 모든 전국의 중고생들을 홍보책으로 쓰려는 업체들이 더 많아졌겠죠. 그렇기 때문에 이 피해는 사실 온라인 피해다 보니까 어떤 지역을 특정해서 나누고 그 지역에서만 있는 일이라고 보기에는 무리가 있습니다.

◇ 김현정> 지금 그러면 저거를 일단 계속 만들어주세요 하는 사람이랑 유포하는 사람들 빼고 애초에 저런 앱을 텔레그램에 지금 넣어서 팔고 있는, 상업화한 사람들, 그 사람의 존재는 누군지 전혀 모르는 거예요? 전혀 안 잡혔습니까?

◆ 원은지> 이 텔레그램 방을 운영하는 운영진들에 대해서는 경찰이 텔레그램 쪽에 수사 협조 요청을 해야 하는데 텔레그램은 한국의 디지털 성범죄 사건 관련해서 수사 협조를 받아들인 적이 단 한 번도 없습니다.

◇ 김현정> 단 한 번도, 그럼 지난번에 조주빈 잡을 때는 어떻게 잡은 거예요? 텔레그램에서 협조 안 한 상황에서 잡은 거예요?

◆ 원은지> 그렇죠. 여러 단서들을 가지고 정말 많은 우여곡절과 노력 끝에 잡았죠.

◇ 김현정> 여러분, 얼마 전에 텔레그램 창업자가 프랑스에서 잡혔잖아요. 부실 관리 책임을 물어서 징역 20년형도 가능하다고 했을 때 많은 사람들이 아니, 책임 부실로 20년형까지 가해? 이런 말씀하셨는데 바로 저런 이유입니다. 텔레그램은 지금 아무것도 정보를 제공하지 않기 때문에 모든 범죄가 지금 저쪽으로 숨어들고 있는 거거든요. 그래서 아까 그 상업화 해서 이 앱을 텔레그램으로 가져온 사람들, 딥페이크 앱을, 그 사람들 전혀 못 잡고 있는 상황. 또 하나는 교육인데요. 지금 연령대가 점점점 내려가요. 앞에서 계속 설명드렸다시피 이게 마치 놀이처럼 지금 초중고등학교에 퍼져가고 있는데 이게 얼마나 심각한 범죄인지를 학교에서 교육시켜야 되는 상황은 아닌가요?

◆ 원은지> 교육시켜야죠. 교육시켜야 하는데 이 교사들의 이야기를 들어보면 이 디지털 성범죄 관련된 교육 시수는 굉장히 적어서 일주일에 한 번, 1시간, 이런 식으로 굉장히 짧게 짧게만 이루어진다고 합니다. 예방 교육만 하기에도 벅찬 시간이죠, 사실.

◇ 김현정> 그렇죠, 그렇죠. 이게 지금 애들이 범죄인지를 모르고 지금 이런 걸 재미로 지금 만들고 있다는 건데 피해자가 몇 명인지 파악도 안 되고 대부분은 자기가 피해당하는 걸 인지도 못 하고 있는 거죠?

◆ 원은지> 정말 그게 가장 무서운 점이죠. 내가 언제 어떻게 피해자가 될지도 모른다는, 피해자가 본인의 피해를 인지하는 과정이 정말 참 안타까운데요. 피해를 모르는 경우가 많고 두 번째는 경찰로부터 연락을 받아서 피해자임을 알게 되는 경우 그리고 최악의 경우는 가해자에게 SNS로 메시지를 받는 거예요.

◇ 김현정> 뭐라고요?

◆ 원은지> 지금 텔레그램 안에서 너를 능욕하고 있어. 그러면서 본인의 자위 영상도 보내고 텔레그램 안에 합성된 사진들을 보내면서 협박하고 겁을 주는 거죠. 피해자를. 그렇게 피해를 인지하는 사람들이 저에게 많이 제보를 줬습니다.

◇ 김현정> 이건 정말 인격 살해라고 할 수 있는데 저걸 만들어서 만들어주는 그 사람들, 그 일당도 잡아야 되지만 저는 이 정도 단계까지 갔으면 만드는 걸 의뢰한 사람들, 그리고 유포한 사람들, 이 사람들에 대한 처벌도 있어야 되지 않나, 지금 그 부분의 처벌은 굉장히 약하지 않나요?

◆ 원은지> 그렇죠. 일단 그 부분을 처벌을 하려면 이 사람들을 잡아야 하잖아요. 그런데 워낙 법정형이 낮다 보니까 어떤 수사의 태도 자체가 좀 미온적인 경우가 많습니다.

◇ 김현정> 지금 어느 정도, 잡는 것도 물론 어렵지만 잡았다 쳐도 어느 정도 처벌이 돼요? 의뢰한 사람하고 유포한 사람.

◆ 원은지> 일단 성폭력 범죄 처벌 등에 관한 특례법 제14조 2로 처벌이 되는데요. 반포할 목적 그러니까 유포할 목적으로 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨린 자는 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처하도록 규정돼 있습니다.

◇ 김현정> 그 정도밖에 안 되는 거군요. 그리고 그냥 보기만 한 사람, 저 방에 들어가서 보기만 한 사람들은 아예 처벌도 안 된다면서요.

◆ 원은지> 그렇죠. 보고 끝난 사람들은 사실상 물증을 잡기가 어렵기 때문에 처벌도 어렵고요. 다만 좀 말씀드리고 싶은 부분은 이런 딥페이크 관련된 혐의로 잡힌 사람들 중에 여죄를 더 조사를 해보면 아동청소년 성착취물까지도 소지하고 있거나 유포한 이력이 있는 가해자들이 꽤 있습니다. 그래서 이게 가볍게 디지털 성범죄를 가볍게 그냥 딥페이크 따로 성착취 따로 볼 게 아니라 딥페이크를 하는 놈들이라면 성착취도 분명히 관여하고 있다라고 볼 수 있을 것입니다.

◇ 김현정> 현실의 성착취 실제도 하고 있을 가능성, 딥페이크 넘어설 수도 있다는 얘기죠.

◆ 원은지> 딥페이크를 넘어서 디지털 성착취를 할 수 있다.

◇ 김현정> 끝으로 피해를 막기 위해서 일단 당장 이 개개인들이 할 수 있는 거는 뭐가 있을까요? SNS에다가 이거 계속 이런 거 올려도 되나, 내 사진 올려도 되나, 이거를 겁내 하는 분들도 많으시더라고요.

◆ 원은지> 맞아요. 그래서 SNS를 비공개 설정하는 분들도 최근에 좀 많아진 것 같습니다. 그런데 사실 개인이 일상을 차단하면서까지 이 범죄에서 도망갈 필요는 없다고 생각을 합니다. 그래서 당장은 좀 어려울지라도 국내 플랫폼부터라도 이 프로필 사진을 캡처하는 것이 감지가 되면 이런 사진으로 불법적으로 사용할 경우 5년 이하의 징역, 5000만 원 이하의 벌금을 받을 수 있다라는 팝업창을 띄운다거나 이런 조금 더 개인 단위 외에 기업이나 공공기관에서의 노력이 필요할 것 같습니다.

◇ 김현정> 내가 피해자라는 걸 알았을 때 당장 할 수 있는 응급처치법이라고 할까, 대응법, 이런 건 어떻게 바로 그냥 신고하는 건가요?

◆ 원은지> 사실 경황이 너무 없을 거기 때문에 바로 신고하는 것이 맞는 것 같습니다. 다만 신고하기 전에 이게 실시간으로 협박을 받고 있는 상황이라면 그런 내용들을 모두 캡처를 해서 증거 자료를 남기는 것이 좋습니다.

◇ 김현정> 여러분, 이걸 난 이런 거 처음 봤는데 이거 괜히 알려주는 거 아니야? 하시는 어르신들이 계실지 모르는데요. 지금 10대들한테는 다 아는 얘기입니다. 심각한 얘기입니다. 이제는 그냥 알고, 여러분 아시고 쉬쉬할 것이 아니라 이걸 막을 방법을 생각해야 되는 단계까지 왔다는 거 오늘 말씀드리겠습니다. 추적단 불꽃의 원은지 활동가 오늘 귀한 시간 고맙습니다.

◆ 원은지> 감사합니다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 : jebo@cbs.co.kr
• 카카오톡 : @노컷뉴스
• 사이트 : https://url.kr/b71afn

저작권자 © CBS 노컷뉴스 무단전재 및 재배포 금지