날 '이모'라 부르던 살가운 아이가 내 딸 딥페이크를 만들었다

<무너진 교실 : 딥페이크 그후>
②가해자의 탄생
피해·목격자 등 47명 인터뷰, 학폭 통보서 분석
합성하며 노는 10대, 여성 혐오 '밈' 일상 속 범행
'소외 공포' 탓 공범 합류…교사가 가해 사실 덮기도
여성 38% 성폭력 "부박한 성문화 만든 어른 책임"

편집자주

그 아이의 일상이 지워졌다. 더는 SNS에 추억이 담긴 사진을 공유할 수 없고, 교실에서 친구들과 마음 편히 수다 떠는 게 두렵다. 댄서가 돼 무대에 서겠다는 꿈도 사라졌다. 지난여름, 우리 사회를 분노케 한 딥페이크 사건 피해자들의 지옥 같은 풍경이다. 사회적 관심은 계절이 바뀌며 싸늘하게 식었고, 홀로 남겨진 10대들은 더 기댈 곳이 없다. 한국일보와 코리아타임스는 어린 피해자와 가해자가 유독 많은 국내외 딥페이크 사건 그 후를 추적했다. 디지털 성범죄는 교실 안 풍경을 어떻게 바꿔놓았을까.

10대 딥페이크 가해자들을 가장 가까이서 지켜본 경찰은 특징이 없는 것이 특징이라고 표현한다. 평범한 아이들이 범행에 손을 대기까지 과정은 복합적이다. 일러스트=신동준 기자

명함 크기만 한 성매매 전단 이미지에서 고교생 딸의 얼굴을 본 순간 박나현(49)은 풀썩 주저앉을 뻔했다. 포르노 잡지에서나 볼 법한 자세를 한 나체 옆에는 딸의 이름과 함께 '1시간에 3만 원'이라는 문구가 적혀 있었다. 딸의 얼굴에 누군가의 알몸 사진을 합성해 만든 불법 딥페이크(인공지능으로 만든 합성 이미지)였다. 엄마는 경찰에게서 범인 이름을 듣고는 한 번 더 경악했다. 딸과 초중고교를 함께 다닌 권정민(17)이었기 때문이다. 나현의 남편과 정민의 아빠는 형·동생으로 부를 만큼 각별했다. 정민은 나현을 "이모"라고 부르며 농담을 던지던 살가운 사내 녀석이었다. 경북의 시골 읍내에서 작은 식당을 하는 나현은 그 아이가 올 때마다 하나라도 더 챙겨주려 했다.

"제가 일을 많이 한다며 걱정스럽게 '이모, 이렇게 돈 벌어서 어디에 쓰려고 해?'라고 묻던 애였어요. 너무 평범한 아이였는데… 뒤에서 우리 딸 사진으로 그랬다는 게 소름 돋았죠."

딥페이크 가해자의 얼굴은 유독 어리다. 10대 비율이 80%나 된다. 그러나 그들이 어떻게 성장하다가 범죄에 다다랐는지는 알기 어렵다. 소년범인 까닭에 재판 과정과 판결문이 공개되지 않는 데다 언론도 가해자에 접근하는 일이 쉽지 않은 탓이다.

한국일보는 2022~2024년 딥페이크 범행을 저지른 10대 가해자의 성장 과정과 범행 동기를 살펴봤다. 사건 피해자와 목격자, 교사, 경찰, 변호사 등 47명을 만나 가해자에 대해 물었고, 본지가 입수한 딥페이크 학교폭력 조치결정 통보서 40건과 미성년 가해자에 대한 기록이 담긴 판결문 일부도 분석했다. 10대 딥페이크범. 그들은 어떻게 탄생했을까. 우리 아이가 혹시 가해자가 될 수도 있을까.

그래픽=신동준 기자

초등생 때 친구 얼굴에 기린 몸 합성하고 '낄낄'…범행의 시작

초등학교 4학년 최성준(10)은 사진을 찍고, 찍히는 데 익숙하다. 스마트폰 애플리케이션으로 사진과 동영상을 편집하고 이를 친구, 가족과 수시로 주고받는다. 태어나서부터 스마트폰과 태블릿 PC를 끼고 산 ‘알파 세대(2010년생 이후)’의 공통점이다. 인물 사진에 필터(원본에 특정 효과를 넣어 변형시키는 기능)를 입혀 우스꽝스럽게 만들고 친구들과 낄낄거리는 건 흔한 놀이다. 하지만 성준은 너무 일찍 선을 넘었다. 딥페이크 프로그램으로 친구들의 얼굴 사진을 성인 여성의 알몸에 붙여 넣고 이를 단짝들에 카카오톡으로 전송했다. 관할 교육지원청 학교폭력대책심의위원회는 "합성이 정교하지는 않다"면서도 명백한 학교폭력이라고 인정했다.

딥페이크 범죄의 시작은 단순하다. 성준처럼 처음에는 놀이로 사진을 합성하거나 변조하면서 기술에 익숙해진다. 18년 차인 경기 지역의 현직 교사는 "미술·실과 수업에서 그림판 프로그램을 이용해 사진을 합성하는 법을 가르치는데, 이때 아이들이 기린 몸에 친구 얼굴을 붙이는 등 장난을 많이 친다"고 말했다. 게임 속에 등장하는 목이 잘린 사람을 친구 사진과 합성했다가 제지당하는 일도 있다.

지금 10대들은 5학년 때부터 학교에서 코딩을 배우고, 공부하는 모습을 브이로그(일상을 촬영한 콘텐츠)로 찍고, 사진·영상을 꾸며 인스타그램과 틱톡 등 사회관계망서비스(SNS)에 일찍부터 올려온 세대다. 특히 코로나19 팬데믹(2020~2022년)을 거치며 사이버 공간에 머무는 시간이 더 늘었다. 기성세대보다 디지털 기술을 악용한 성범죄를 쉽게 저지를 수 있는 이유가 여기 있다.

그래픽=송정근 기자

어른들은 아이들이 인공지능(AI) 시대에 빨리 기술을 배우도록 가속 페달을 밟는 법은 가르쳤지만, 브레이크 거는 법은 제대로 알려주지 않는다. 김묘은 디지털리터러시협회 대표는 안타까운 듯 말했다.

"새 기술을 사용하다 보면 윤리 문제에 부딪힐 수밖에 없죠. 아이들이 스스로 생각하고 토론하며 지켜야 할 것들을 체득하도록 해야 하는데, 현행 교육 체제에서는 시간적 여유가 없어요. 윤리 문제도 강의식으로 짧게 가르치는 수준이에요. 이렇게 하면 아이들은 관심이 없죠. 기술이 훨씬 재밌으니까요."

'여혐 저수지'에서 배운 성관념…기술과 만나 범죄화

딥페이크 만드는 법을 익혔다고 모두가 범죄를 저지르는 건 아니다. 여성의 몸을 쾌락의 도구쯤으로 여기는 정서가 배어 있지 않다면 문제 되지 않는다. 하지만 여성 약 2.6명 중 1명 이 성폭력을 경험한 나라(2022년 기준·여성가족부)에서 많은 아이들은 사춘기를 지나며 부박한 성관념을 빠르게 흡수한다. 결국, 왜곡된 문화를 깨지 못해온 어른들의 책임이 더 크다.

그래픽=송정근 기자

열일곱 살인 김기태는 초등학생 때부터 주변 여학생들에게 듣기 불편한 말을 곧잘 했다. 딸이 기태와 같은 학원에 다녔던 박진희가 5년 전 기억을 떠올렸다.

“5, 6학년쯤이었을 거예요. 우리 애의 몸매를 평가했다고 해요. 그때는 짓궂게 말하는 남자아이 정도로 생각했죠."

하지만 삐뚤어진 인식은 범죄로 향했다. 기태는 고교생이 된 후 여성 동창의 사진으로 딥페이크를 만들어 SNS의 '지인능욕방'에 올렸다가 발각됐다. 결국 소년범으로 처분받았다.

연관기사

• 내 딥페이크 사진 뿌린 '그놈', 학교는 '피해자'라 불렀다
(www.hankookilbo.com/News/Read/A2024111514320000841)

잘못된 성 인식은 어디서 체득하게 되는 걸까. 온라인 공간에는 10대들도 쉽게 접근할 수 있는 '혐오의 저수지'가 넘쳐난다. 유튜브 등에서 여성혐오 콘텐츠를 보게 되면 필터 버블(선별된 정보만 이용자에게 보여주는 것)의 늪에 빠져 비슷한 영상이 계속 추천된다. 아이들은 온라인 커뮤니티에서 본 여성혐오 밈(유행 콘텐츠)을 생각 없이 따라 하고, 온라인 게임을 하면서 상대를 자극하려고 '느금마'(상대 엄마를 비하하는 말), '혜지'(실력이 부족한 상대를 여성형 이름으로 부르며 조롱하는 것) 같은 표현을 쓰며 여성을 낮춰보는 인식에 익숙해진다.

그래픽=송정근 기자

집안에서도 잘못을 배운다. 성범죄 소년범을 교육해온 조휘용 상담가는 "부부싸움이 잦거나 아버지가 어머니를 억압적으로 대하는 걸 목격한 남자아이들이 사춘기 때 여성을 상대로 범행하는 일이 많다"고 했다.

또래 집단에서 소외되는 걸 두려워하는 청소년기 특성 탓에 범행에 가담하는 아이도 많다. 중학생 민다현(14)은 또래 6명과 함께 학폭위에 가해자로 올라 출석정지 처분을 받았다. 친구들이 만든 딥페이크 범죄물을 메신저로 받아 보관했던 탓이다. 어울리고 싶은 마음에 벌인 일이지만 뒤늦게 잘못을 깨달았다. 다현은 친구들에게도 "딥페이크를 지우라"고 권유했지만, 이미 물이 엎질러진 뒤였다.

결국, 성평등 인식이 사회 전반에 뿌리내리지 못한다면 가해자의 탄생은 막을 수 없다. '바바리맨'(성기 등을 타인에 강제로 보여주는 범죄자)이나 불법 촬영 가해자, 딥페이크 범인은 서로 다른 수단을 택했을 뿐 여성을 성적 도구로 보는 정서를 공유한다. 이한 성교육 활동가는 가해자 교육만으로 범죄 예방 효과를 높이기 어렵다고 지적한다.

"딥페이크 등 성범죄에 가담하지는 않았지만 이런 범행이 근본적으로 왜 일어나는지 모르는 아이들을 제대로 교육해야 해요. 왜곡된 남성 중심 문화가 범죄의 토양이 됩니다. 딥페이크를 만들지 않았어도 시청한 사람, 알고도 모른 척한 사람 등도 범행을 뒷받침하고 있다는 점을 알려야 하죠."

그래픽=송정근 기자

SNS 노크하는 '사이버 호객꾼'…"익명 공간에 죄책감 없어"

사이버 공간에는 10대를 노리는 어른들이 있다. 이들은 범죄의 그물을 촘촘하게 짜놓은 뒤 아이들에게 접근한다. 딥페이크 이미지로 '호객'한 뒤 도박이나 포르노 영상 판매 등 돈을 써야 하는 사이트로 유인하는 구조다. 가만히 있어도 사이버 포주들이 찾아와 10대들의 손을 잡아끄는 것이다. 문영희 용인시 청소년 성문화센터장이 10대들이 범죄에 다다르는 경로를 들려줬다.

"중학생들이 게임 아이템을 구입하려고 디스코드(게임할 때 흔히 사용하는 메신저)를 많이 써요. 그런데 아이템 사고파는 활동만 하는 게 아니에요. '희귀영상이 있다'와 같은 홍보글도 많아요. 호기심에 그 링크를 클릭하다 보면 딥페이크 저장소나 지인능욕방까지 가게 되는 거죠. '5,000원짜리 문화상품권 핀 번호만 입력하면 딥페이크를 만들어준다'는 글을 보고 범행에 가담하게 되는 겁니다."

중학생 강선국도 엑스(X·옛 트위터)에서 우연히 '제작자'를 만나 범죄에 가담했다. 원하는 여성으로 딥페이크를 만들어 준다기에 주변 여학생 2명의 사진을 보냈다. '가슴이 드러난 사진과 합성해 달라'는 요구도 함께 했다. 불법 합성 사진을 피해 학생들에게 보내면서 덜미가 잡힌 선국은 출석정지 10일을 통보받았다. 선국은 아직도 제작자가 누구인지 모른다. 권병철 인천서부경찰서 학교전담팀장이 딥페이크 범행을 대수롭지 않게 여기는 남자아이들의 심리를 설명했다.

"온라인은 비대면이고, 익명성이 보장된 곳이잖아요. 죄책감 없이 범행할 수 있죠. 거기에 군중심리까지 더해지면 최악이에요. 단체대화방에서 각자 만든 범죄물을 돌려 보며 '수준이 높다'고 칭찬하다 보면 죄의식은 사라지는 겁니다."

그래픽=송정근 기자

'잘못 적발돼도 별일 없더라' 더 대담해지는 범행

10대 가해자들이 처음부터 악랄한 범죄를 저지르는 건 아니다. 상대적으로 낮은 수위의 범행을 하다가 점점 대담해진다. '하인리히 법칙'(대형 사고 전 수백 번의 위험 징후가 발견된다는 법칙)은 딥페이크 범죄에도 적용된다. 악행의 초기 단계 때 어른에게 발각당하기도 하지만 바로잡아주지 않으면 질주를 이어간다.

정민과 공범인 고교생 홍민중(16)은 중학교 3학년 때 한 차례 잘못이 들통났다. 나현의 딸 사진을 출력해 그 위에 정액을 뿌리고 '인증샷'을 찍었다. 우연히 사진을 보게 된 한 여학생이 학생 안전 담당 교사에게 알렸지만 그는 학교에 보고하지 않았다. 학교폭력 처리 절차를 어긴 것이다. 당시 민중의 심리 상태가 불안정했던 데다 "유포할 목적 없이 개인 휴대폰에 저장한 사진이고 이미 삭제했다"는 해명을 믿었기 때문이다. 교사는 민중에게 임의로 교내 봉사활동을 시키는 선에서 일을 마무리 지었다. 결국 피해자 부모조차 이 사실을 모르고 넘어갔다. 그러나 민중은 1년이 채 지나지 않아 같은 여학생을 상대로 딥페이크를 만들었다가 적발됐다. 나현은 "가해자인 민중이보다 교사가 더 원망스럽다"고 했다.

한국일보 특별취재팀은 딥페이크 범행을 저지른 10대 면면을 살펴보기 위해 관련 학교폭력 조치결정 통보서 40건과 미성년 가해자에 대한 기록이 담긴 판결문 등을 분석했다. 본보가 입수한 통보서와 판결문 수백장을 펼쳐놓고 특별취재팀 기자들이 가해자의 특징을 살펴보고 있다. 정다빈 기자

자녀가 딥페이크 사건에 연루되면 처벌만 피하고 보려는 부모들의 행태도 가해자를 반성하지 못하게 만든다. 부모가 고용한 일부 변호사들은 "범행을 인정하거나 사과하면 불리하다"고 조언한다. 디지털 장의사(영상 등 온라인 기록을 찾아 지워주는 직업)를 찾아 증거를 인멸하는 이들도 많다. 문 센터장은 자신이 만나본 가해자 부모를 크게 세 유형으로 나누며 역할을 중요성을 강조했다.

"부모 반응을 보면 ①'애들이면 호기심에 그럴 수 있는 것 아니냐'며 대수롭지 않게 보거나 ②피해자를 향해 '이까짓 일로 내 자식 앞길 망쳤다'며 분노하는 사람들이 있죠. ③피해자 마음을 헤아리며 자식을 교육하려는 부모도 드물게 있어요. 부모 태도에 따라 10대 가해자의 마음가짐도 크게 달라지죠. 부모가 범행을 사소하게 치부하면 아이도 비슷하게 여기지만, 피해자 입장에 서 보도록 교육시키면 반성하게 돼요."

잘못을 모르는 아이들은 다시 가해자가 된다. 민중은 친구들에게 “먼저 깜빵(감옥) 가 있을게”라며 농담까지 던져 피해자들을 분노하게 했다. 가해 청소년 상담을 하는 이명화 아하청소년서울시립성문화센터장은 “상담을 3, 4회쯤 했을 때까지도 여전히 자신이 뭘 잘못했는지 모르는 아이들이 있다"고 했다. ‘재수 없게 나만 걸렸다’, ‘큰일도 아닌데’ 등의 반응이 흔하다. 심지어 또래 사이에서 무용담 늘어놓듯 범행 사실을 떠벌리는 일도 있다. 죄의식 없는 가해자와 계속해서 같은 학교에서 지내야 하는 피해자는 끝없는 고통에 시달린다.

그래픽=송정근 기자

심각한 사이버 성범죄를 저지른 소년범이 필수적으로 받는 교육도 허술하다. 박은정 조국혁신당 의원실에서 입수한 법무부 자료를 보면, 지난해와 올해 9월까지 딥페이크 범행을 저질러 소년보호 사건으로 송치된 이들은 96명이었다. 이들이 가정법원으로부터 성폭력 예방교육 이수 명령을 받게 되면 교육기관에서 약 20명씩 앉아 강의를 듣는 게 전부다. 소년범 사건을 많이 다뤄온 서혜진 변호사는 "한국 사회에는 미성년 가해자들이 죄를 뉘우치고 반성하도록 한 뒤 사회로 돌려보내는 시스템이 없다"고 말했다.

"텔레그램 쓰면 절대 안 잡힌다"는 믿음

10대 가해자들이 쉽게 딥페이크를 만들어 퍼뜨리는 데는 "절대 잡히지 않을 것"이라는 단단한 믿음이 자리 잡고 있다. 텔레그램 등 보안이 강력한 해외 SNS를 쓰면 우리 수사기관도 뒤를 쫓지 못할 것이라는 생각이다. 하지만 8년째 온라인 범죄를 추적해온 김성택 경기남부경찰청사이버수사1대장은 고개를 가로저었다.

"다 꼬리를 밟힙니다. 그때 가서 후회하면 이미 늦죠."

※김성택 대장 등 경찰 추적기를 다룬 후속 기사는 12월 2일 오후 한국일보 홈페이지에 공개됩니다.

■한국일보·코리아타임스 특별취재팀

팀장 : 유대근 기자(엑설런스랩)
취재 : 진달래·원다라 기자(엑설런스랩), 김태연 기자(사회부), 정다현 기자(코리아타임스), 이지수 인턴기자
사진 : 하상윤 기자, 류기찬 인턴기자
영상 : 박고은·이수연·김용식·박채원 PD, 김태린 작가, 김가현 인턴PD, 전세희 모션그래퍼

※<제보받습니다> 한국일보는 딥페이크 범죄 피해를 당한 아동∙청소년과 그 가족, 주변 분들의 제보를 받습니다. 딥페이크 피해와 그 이후 수사, 재판 과정에서 겪은 어려움, 학교 안팎에서 겪은 부조리, 2차 가해 등이 있으시다면 제보(dynamic@hankookilbo.com) 부탁드립니다. 제보한 내용은 철저히 익명과 비밀에 부쳐집니다. 끝까지 취재해 보도하겠습니다.

목차별로 읽어보세요

1. ① 누구도 믿을 수 없다
   1. • 세상에서 가장 안전해 보였던 '오빠', 그 놈이 범인이었다
      (www.hankookilbo.com/News/Read/A2024111918530005454)
   2. • 나체 조작 사진 가해자와 '한 교실'… 할아버지는 엉엉 울었다
      (www.hankookilbo.com/News/Read/A2024111017560004348)
   3. • 내 딥페이크 사진 뿌린 '그놈', 학교는 '피해자'라 불렀다
      (www.hankookilbo.com/News/Read/A2024111514320000841)
3. ② 가해자의 탄생
   1. • 날 '이모'라 부르던 살갑던 아이가 내 딸 딥페이크를 만들었다
      (www.hankookilbo.com/News/Read/A2024112515400005496)

진달래 기자 aza@hankookilbo.com
원다라 기자 dara@hankookilbo.com
김태연 기자 tykim@hankookilbo.com
이지수 인턴 기자 ssu1404@naver.com