"얼굴을 바꿔드립니다" 빠르게 성장하는 '딥페이크' 시장, 부작용은 없을까

[경향신문]

국내 이용자 10만명을 기록한 딥페이크 앱 ‘리페이스’ 소개 문구. 앱스토어 캡쳐

틱톡·인스타그램 등 사회관계망서비스(SNS)에서 가상·타인의 얼굴을 덧씌우는 딥페이크(인공지능 기반 얼굴 합성 변조 기술) 영상이 인기를 끌고 있다. SNS 이용자들은 플랫폼이 제공하는 필터 기능을 이용하거나 관련 앱을 다운로드 받아 영상을 제작한다. 최근엔 딥페이크에서 한 단계 더 나아가 ‘디지털 더블’ 기술을 활용한 가상 인간이 CF 스타로 활약하는 등 관련 시장이 크게 성장 중이다.

■딥페이크, SNS 놀이문화가 되다

지난 8월15일 출시된 딥페이크 앱 ‘페이스플레이’는 출시 한 달 만에 100만회 이상 다운로드 되며 인기를 끌었다. 구글플레이 캡쳐

대표적인 딥페이크 앱은 우크라이나의 AI회사 네오코텍스트가 개발한 ‘리페이스’와 중국의 이노베이셔널 테크놀로지스가 개발한 ‘페이스플레이’다. 이들 앱은 이용자들의 얼굴을 유명 영화·TV프로그램의 장면 속 인물과 합성해 보여준다. 합성 대상은 국내외 연예인부터 스포츠 스타까지 다양하다. 얼굴 사진만 있다면 타인의 얼굴도 제약없이 영상에 합성할 수 있다.

데이터분석 솔루션 모바일인덱스에 따르면 지난달 리페이스 국내 월간활성이용자(MAU)는 전월 대비 71% 증가한 10만4658명을 기록했다. 페이스플레이도 출시 보름만인 지난 8월15일 이용자 2만7215명이 사용한 인기 앱으로 등극했다. 지난 16일 기준으로 인스타그램에는 리페이스와 관련된 게시물이 약 65만개, 페이스플레이 관련 게시물은 3만4000개 이상 게시됐다.

■연예인 못지 않은 가상 인간 인기

인스타그램 팔로워 7만명을 보유한 로지는 ‘디지털 더블’ 기술로 탄생한 가상인간이다. 로지 인스타그램 캡쳐

딥페이크 기술에서 나아가 가상 인간을 생성하는 ‘디지털 더블’ 기술도 상용화됐다. 각기 다른 얼굴을 짜깁기하는 딥페이크와 달리 디지털 더블은 3D(입체)로 실제 모델을 직접 촬영한 뒤 얼굴을 분석, 기존 얼굴을 완벽하게 가상 얼굴로 대체할 수 있어 실제에 가깝다는 게 업계 설명이다.

싸이더스 스튜디오엑스가 제작한 가상인간 ‘로지’는 신한라이프 광고를 시작으로 광고업계를 섭렵했다. 최근에는 넷플릭스 드라마에 출연할 것이란 이야기도 나온다. 로지의 인스타그램 팔로워수는 7만명에 이른다. 로지가 올해 벌어들인 수익은 이미 10억원에 이를 것으로 추정된다.

로지 외에도 롯데홈쇼핑의 ‘루시’, 디오비스튜디오 ‘루이’ 등 여러 가상인간 인플루언서들이 국내에서 활동 중이다.

■불법·범죄 악용 등 불안감은 여전

인스타그램과 틱톡에서 유행 중인 ‘말로 변하는 부모’ 영상. 영유아기 아동 대부분이 울음을 터뜨리거나 놀라는 모습을 보였다. 인스타그램·틱톡 캡쳐

그간 영상합성 기술에 대한 인식은 부정적 반응이 더 컸다. 딥페이크를 활용해 제작된 영상이 성범죄 등에 이용되는 등 악용사례가 속출했기 때문이다. 최근 IT(정보기술)·게임업계에서 딥페이크 기술을 새롭게 활용하면서 이러한 인식에도 변화의 바람이 불고 있지만, 윤리적 문제나 범죄 위험에서 아직 완전히 자유롭지는 않다.

딥페이크를 손쉽게 탐지할 수 있는 기술도 속속 등장하고 있다. 마이크로소프트는 지난 1월 세계 최대 가전 전시회 CES에서 영상의 퇴색 정도를 분석해 딥페이크 영상물을 구분하는 탐지 기술을 선보였고, 이흥규 카이스트 전산학부 교수 연구팀도 자체 기술을 이용해 만든 딥페이크·사진 위변조 탐지 앱 서비스 ‘카이캐치’를 지난 3월 상용화했다. 페이스북 AI(인공지능)도 미시간주립대학과 함께 딥페이크 탐지 플랫폼 개발을 진행 중이다.

부모 등 성인이 딥페이크 기술을 이용한 장난으로 영유아에게 공포·불안감을 조성하는 사례도 늘고 있다. 갑자기 말로 변하는 영상 속 부모의 얼굴을 본 아이들이 깜짝 놀라거나 울음을 터뜨리는 것이 대표적이다. 이를 본 일부 누리꾼들은 ‘아동학대’라고 지적했다.

고우현 세이브더칠드런 매니저는 “실제와 가상을 구분하지 못하는 영유아의 경우 생존과 직결된 보호자가 다른 존재로 변하는 모습에 정서적 충격과 두려움을 느낄 수 있다”며 “또한 이러한 모습을 사회관계망서비스(SNS)에 아동의 동의 없이 게시하는 것 또한 권리 침해가 될 수 있다”고 설명했다.

앞서 UN아동권리위원회는 지난 2월 “디지털 기술이 어린이의 인지적, 정서적, 사회적 발달에 유해한 영향을 미치지 않고 사용될 수 있도록 부모와 보호자에게 적절한 훈련과 조언을 제공해야 한다”고 명시한 ‘디지털 환경 관련 아동권리에 대한 일반 논평 제25호’를 채택했디.

이유진 기자 yjleee@kyunghyang.com

▶ [뉴스레터] 식생활 정보, 끼니로그에서 받아보세요!
▶ [뉴스레터]교양 레터 ‘인스피아’로 영감을 구독하세요!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지