"1분 합성" "무료" 수두룩…딥페이크 음란물 부채질

'음란물 자동 생성' 딥페이크봇, 1분 만에 링크 20개 연결
별도 인증없이 회원가입, 사진 1장이면 불법합성물 뚝딱
"미성년 기소유예" 법률 마케팅까지, 범죄 조장 우려 심각

(왼쪽) 딥페이크 사이트에 업로드하기 전의 원본 사진. (오른쪽) 업로드한 뒤 옷 부분을 선택하고 '생성'을 누르니 1분만에 딥페이크 누드 사진이 만들어졌다. /사진=최우영 기자

AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 나온다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있어 비전문가와 미성년자 누구나 손쉽게 범죄에 가담할 수 있다.

29일 구글을 비롯한 주요 검색진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서버를 둔 것으로 추정되는 이 서비스들은 성인 여부를 묻긴 하지만, '맞다'고 클릭하면 별다른 인증 없이 회원 가입을 유도한다.

가입 시 요구는 이메일 인증이 전부고, '생성물에 대한 책임은 이용자에게 있다'는 형식적 경고에 그친다.

네이버에 'AI OOO'를 검색하면 나오는 결과물. /사진=네이버 캡처

일부 사이트는 가입 즉시 딥페이크를 무료로 만들 수 있다고 안내한다. 실제로 기자의 사진을 업로드한 뒤 옷을 제거할 범위를 선택하고, 1분가량 시간이 지나자 누드 사진과 같은 딥페이크가 금세 만들어졌다. 또 다른 사이트에선 게임 캐릭터를 업로드해 마치 음란 콘텐츠인 것처럼 바꿀 수도 있었다. 사이트들은 '보다 빠른 처리 시간'과 '고품질 이미지 출력'을 내세워 유료 결제를 유도한다.

딥페이크 영상 제작도 손쉽다. 구글플레이에서 무료 AI 얼굴합성 앱을 내려받은 뒤 영상 템플릿을 선택하고, 합성을 원하는 얼굴 사진을 업로드하면 된다. 순식간에 영상 속 인물이 얼굴 사진의 주인공으로 바뀐다. 네이버·다음 등 국내 포털에서도 AI와 음란물 관련 키워드로 검색하면 관련 사이트를 모아놓은 페이지 등이 우후죽순 노출된다. 딥페이크 제작 툴 제공업체를 처벌하기 위한 법적 근거는 부족하다. 이에 최소한 미성년자들을 대상으로 이에 대한 접근을 차단해야 할 필요성도 거론된다.

글로벌 SNS(소셜미디어)에는 '딥페이크봇'이 넘쳐난다. 이는 사진을 올리면 딥페이크 기술로 음란물을 자동 생성하는 텔레그램 AI 봇이다. 실제로 엑스와 미국 온라인 커뮤니티 레딧 등에서 딥페이크봇을 검색한 결과 불과 1분만에 텔레그램 채팅방으로 연결되는 링크가 20여개 나타났다.

이용자들은 링크를 공유하며 '무료 체험'을 한다. 상당수 봇이 사진 1장까지 무료 제작해주고 이후 유료로 전환해 수익을 낸다. 기자가 접속해 본 딥페이크봇은 1대1 대화방처럼 운영됐다. 한 딥페이크봇 운영자는 봇의 프리미엄 서비스를 광고하는 텔레그램 채널을 별도 운영했다. 구독자는 5만1000여명에 달했다. 통역 기능도 탑재했다. 전세계 누구나 사진 한 장만 있으면 서버에 저장된 나체 사진과 합성해 불법 합성물을 제작하고 퍼 나를 수 있다는 의미다.

한편 딥페이크 성범죄가 잇따르면서 형량을 낮출 수 있다는 법률 광고도 우후죽순 나온다. 이날 포털사이트 블로그와 카페 등에는 딥페이크 성범죄 혐의를 받는 미성년자들을 대상으로 법률 상담을 제공한다는 게시글이 다수 게재됐다. 한 포털 블로그에서 '딥페이크 변호사'를 키워드로 검색하면 최근 5일간 올라온 법률사무소 관련 글만 100여건에 달한다. 대체로 법무 법인의 활동 지역을 강조하면서 '딥페이크', '중학생' 등을 키워드로 광고글을 게재했다. 미성년자가 실형을 선고 받은 사례와 법률 조언으로 기소유예를 받는 사례 등을 비교해 설명하기도 했다. 형량 감형을 위한 대처법을 안내하는 법률사무소도 있다. 또 다른 법무법인은 성범죄 형사사건 관련 인터넷 카페 등을 운영 중이다. 이 카페는 딥페이크 성범죄 피해자와 피의자 등을 상대로 법적 조언을 공유하고 정보를 얻을 수 있도록 게시판을 운영한다. 현재 가입자는 2만명이 넘는다. 대한변호사협회 관계자는 "딥페이크 피의자 법률 자문 관련 게시물들에 대해 광고규정 위반 소지가 있는지 조사를 거쳐서 판단해봐야 한다"고 밝혔다.

최우영 기자 young@mt.co.kr 김미루 기자 miroo@mt.co.kr 정세진 기자 sejin@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지