‘딥페이크 봇’ 위험한 놀이… 성착취물 사건 5명중 1명이 촉법소년

이미지 합성 앱 등 능숙하게 활용… 검거된 피의자 10명중 8명이 10대

여교사-동급생 얼굴 합성해 퍼뜨려

“스마트폰 놀이… 범죄 인식 못해

성범죄 폐해, 정규 교육 편성해야”

고교 2학년생 A 군(17)은 올해 8월 친구에게 장난삼아 “우리 학교 여자 선생님의 나체 사진을 합성해 달라”고 부탁했다. 친구는 인공지능(AI) 기술로 사진, 영상을 변형시키는 ‘딥페이크 봇’ 프로그램으로 이를 만들어 A 군에게 줬다. 이들은 성착취물을 소지한 혐의로 경찰에 붙잡혀 현재 조사를 받고 있다.

경찰이 올해 집중 단속을 통해 붙잡은 딥페이크 성착취물 제작 및 유포 사범 573명의 80%가 10대 청소년으로 나타났다. 그중에는 만 14세 미만 촉법소년도 94명(16.4%) 있었다. 전문가들은 “어린 학생들 사이에서 딥페이크 범죄가 놀이나 장난처럼 번지고 있다”며 “이대로 방치할 경우 성인이 되면 더 큰 범죄자로 전락할 우려가 있다”고 경고했다.

● 잡고 보니 80%가 10대… “기술 활용에 능숙”

3일 경찰청 국가수사본부는 1∼11월 딥페이크 성착취물 관련 사건 649건에 연루된 피의자 573명을 검거했다고 밝혔다. 이 중 촉법소년을 포함한 10대 청소년은 463명(80.8%)이었다. 이는 20대(87명), 30대(17명), 40대(3명), 50대 이상(3명)과 비교했을 때 월등히 많은 수치다.

10대들의 딥페이크 범죄는 끊이지 않고 있다. 지난달 강원 원주시의 한 학교에서는 10대 남학생이 동급생 사진으로 딥페이크 성착취물을 만들어 갖고 있다가 경찰에 적발됐다. 경찰은 이 성착취물이 단체메신저 등에 공유된 것으로 보고 수사 중이다. 9월에는 텔레그램에서 연예인 딥페이크 성착취물을 만들어 판 10대 청소년 3명이 경찰에 붙잡혔다.

경찰은 10대들이 새로운 프로그램이나 스마트폰 애플리케이션(앱), 소셜네트워크서비스(SNS) 활용에 능숙하고 이를 서로 빨리 공유한다는 특징 때문에 범죄에 발을 들이는 것으로 분석하고 있다. 이들은 AI 기술로 이미지 합성물을 만드는 데 능하다. 경찰에 따르면 검거된 10대 청소년 중에는 이미지 합성 앱인 ‘언드레스’, ‘누디파이’ 등으로 성착취물을 만든 경우도 있었다. 하동진 서울경찰청 청소년보호계장은 “다양한 사진 합성 앱을 활용해 딥페이크 합성물을 제작하는 방법이 유튜브 등 SNS에서 손쉽게 공유되고 있다”고 말했다. 때문에 일각에서는 범죄에 악용되는 빈도가 높은 앱이나 프로그램은 청소년들의 접근을 막을 방법을 강구해야 한다는 목소리도 나온다.

● 범죄를 ‘놀이’쯤으로 여겨… “학교도 대응해야”

더욱 심각한 문제는 10대 청소년들이 딥페이크 성착취물 제작, 유포를 범죄가 아닌 장난이나 놀이쯤으로 여긴다는 점이다. 때문에 또래들이 모여 이러한 성착취물 유포 방법을 서로 공유하고, 주변의 친구나 교사, 지인들의 사진 및 영상을 시험삼아 합성하기도 하는 것으로 알려졌다. 하지만 막상 피해를 보는 당사자들은 온라인이나 SNS에 떠도는 자신의 딥페이크물을 보곤 심각한 트라우마와 정신적 충격에 시달리기도 한다.

염건웅 유원대 경찰소방행정학부 교수는 “딥페이크 영상 제작이 최근 청소년 사이에선 마치 놀이문화처럼 자리 잡았다”며 “심각한 성범죄라는 인식을 못 하고 있다”며 대책 마련이 필요하다고 지적했다. 박주호 한양대 교육학과 교수는 “청소년들이 각종 AI 기술 활용에 익숙해지는 동안 학교 등에서 청소년을 대상으로 한 기술윤리 교육은 사실상 없다시피 한 게 현실”이라며 “학교에서 디지털 성범죄와 그 폐해를 정규 과목으로 편성해 가르쳐야 한다”고 지적했다.

10대들에 대한 교육, 검거, 처벌에서 더 나아가 문제가 된 앱과 프로그램에 대한 조치도 논의해야 한다는 지적이 나온다. 황석진 동국대 국제정보보호대학원 교수는 “방송통신심의위원회가 문제가 되는 프로그램에 대한 삭제 조치를 하고 있지만, 우후죽순으로 늘어나는 딥페이크 봇을 모두 삭제하긴 한참 모자란다”며 “방심위와 경찰, 한국인터넷진흥원(KISA) 등이 협의해 전담팀을 만들어 실시간으로 악성 프로그램을 단속, 삭제하는 등의 강력한 조치가 필요하다”고 말했다.

이수연 기자 lotus@donga.com
임재혁 기자 heok@donga.com
이상환 기자 payback@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지