딥페이크 ‘옷 벗기기’ 앱 성행…AI 성범죄 악용 우려 높아져

X·레딧 등 SNS 광고 통해 노출
9월 한달 동안만 2400만명 접속

딥페이크로 인한 성범죄 피해를 형상화한 이미지. flickr

미국을 중심으로 인공지능(AI)을 이용해 사진 속 여성의 옷을 벗기는 딥페이크(AI로 인물의 얼굴, 모습 등을 실제처럼 조작한 가짜 사진·영상) 애플리케이션(앱)과 웹사이트의 이용자가 폭증하면서 악용 우려가 커지고 있다.

9일(이하 현지시간) 블룸버그통신 등 주요 외신에 따르면, 올해 9월 한 달 동안만 총 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문한 것으로 나타났다. 이는 소셜미디어(SNS) 분석기업 그래피카가 X(엑스·옛 트위터), 레딧 등에 노출된 AI 옷 벗기기 앱·웹사이트 광고와 이용자 클릭 수 등을 분석한 결과다.

이른바 ‘누디파이(nudify·벌거벗기다)’ 딥페이크로 불리는 이들 앱·웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 가짜 이미지를 손쉽게 만들어 준다. 사진 속 인물은 대부분 여성이다. 누디파이는 나체를 의미하는 ‘nude’와 ‘~하게 만들다’는 의미의 접미사 ‘-ify’를 결합한 신조어다.

그래피카에 따르면, 지난 9월 주요 SNS에서 AI 옷 벗기기 앱·웹사이트를 광고하는 링크 수는 올해 초 대비 무려 2400% 급증한 것으로 집계됐다. 그래피카 측은 “수년 전에 비해 AI로 훨씬 그럴 듯한 이미지를 만들 수 있게 되면서 인기가 급등한 것으로 보인다”고 설명했다.

이 같은 누디파이 딥페이크는 AI를 범죄에 악용할 수 있다는 우려를 심화시키고 있다. 소셜미디어에서 당사자의 동의 없이 공개된 사진을 가져와 딥페이크로 나체 사진과 같은 음란물을 만들고, 이를 배포할 경우 개인의 피해는 물론 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.

실제로 X에 올라온 한 광고는 “AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다”며 사실상 성범죄에 가까운 행위를 가벼운 유희로 여기며 이를 조장하고 있는 형국이다.

디지털 권리 보호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “최근 일반인이 일반인을 대상으로 딥페이크 옷 벗기기와 같은 부도덕한 행위를 하는 경우가 많아졌다”며 “특히 고등학생과 대학생들 사이에서 흔히 벌어지고 있는 상황”이라고 전했다.

이 같은 문제 제기에 대해 구글은 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 해명했다. 레딧 측도 “가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사를 통해 현재 여러 도메인을 차단한 상태”라고 밝혔다. 틱톡은 “‘옷 벗기(undress)’와 같은 키워드를 차단하고 있다”고 전했다.

그러나 여전히 SNS에서는 옷 벗기기 앱·웹사이트 관련 콘텐츠를 어렵지 않게 찾아볼 수 있다. 유튜브에서 ‘nudify’나 ‘nudity’ 등 단어를 검색하면 ‘AI’나 ‘딥페이크’ 등 관련어를 함께 검색하지 않더라도 여러 누디파이 딥페이크 앱 광고가 상단에 노출된다. 또 어떻게 이를 이용하는지 상세하게 소개하는 영상도 다수 나왔다.

이에 따라 미국에서도 AI 음란물에 대한 규제가 필요하다는 목소리가 높다.

한편 지난 8일 유럽연합(EU) 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 ‘AI 규제법’에 합의했다. 이 법은 사람의 기본권, 법치 등에 중대한 해악을 미칠 수 있는 AI를 고위험 AI로 분류하고 이들 AI 사용을 금지하는 내용을 담고 있다. 이를 어길 경우 글로벌 매출액의 최대 7%(매출이 적을 경우 최대 3500만유로)에 해당하는 벌금이 부과될 수 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]