여성 옷 벗기는 앱에 한달간 2400만명 몰렸다…우려 커진 딥페이크

넷플릭스 드라마 ‘셀러브리티’에서 나온 딥페이크 기술로 처리된 한 장면. [사진출처 = 넷플릭스]

미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하면서 악용 우려가 커지고 있다.

AI 기술이 확산하며 훨씬 더 그럴 듯한 이미지를 만들어내면서 딥페이크 성착취물을 만드는 것이 한층 쉬워진 탓이다.

10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.

딥페이크는 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.

그래피카에 따르면 올해 초보다 9월에 X(엑스·옛 트위터)와 레딧 등 소셜미디어에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다.

딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들며 사진 속 인물은 대부분 여성이다.

이 같은 앱과 웹사이트의 인기는 불과 몇 년 전보다 훨씬 그럴듯한 이미지를 만들 수 있는 AI의 출시 때문이라고 그래피카는 전했다.

개발자는 오픈 소스 AI를 이용해 무료로 옷 벗기기 앱을 만들 수 있다.

그러나 이들 앱과 웹사이트는 최근 AI 기술 발달이 범죄에 악용될 수 있다는 우려를 심화시키고 있다고 블룸버그는 지적했다.

실제로 X에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다고 설명했다. 사실상 해당 이미지가 누군가를 대상으로 성희롱을 하거나 협박하는 데 쓰일 수 있음에도 이를 조장하고 있는 것다.

또 다른 관련 앱은 유튜브에 광고 비용을 지불해 ‘벌거벗기다’(nudify)라는 단어를 검색하면 가장 먼저 표시됐다.

개인정보 보호 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 쉽고 더 효과적으로 만들어지고 있음을 우려한다.

디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “특히 고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 지적했다.

구글, 레딧, 메타, 틱톡 등 IT플랫폼 기업들은 이같은 우려에 언드레스(undress)’ 등의 검색어를 차단하거나 해당 불법 광고를 게재하는 도메인 차단, 게시물 삭제 등에 나서고 있다고 밝혔다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]