여성 옷 벗기는 그 앱, 한 달간 2400만명 썼다… 우려 커진 딥페이크

/워싱턴포스트 보도화면

인공지능(AI)을 이용해 여성의 ‘가짜 누드’ 사진을 만드는 딥페이크(deepfake) 애플리케이션과 웹사이트 이용자가 폭증하면서 덩달아 범죄 악용 우려 역시 날로 커지고 있다.

10일(현지시각) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카(Graphika)를 인용해, 지난 9월 한 달 동안에만 2400만명이 딥페이크 웹사이트를 방문했다고 보도했다. 해당 사이트에서는 AI 기술을 기반으로 얼굴 등을 실제처럼 조작해 여성의 옷을 벗긴 이미지 등을 제작할 수 있다.

사용자가 날로 늘자 관련 광고 수도 큰 폭으로 증가했다. 그래피카에 따르면 최근 엑스(X·옛 트위터)나 레딧 등 소셜미디어와 온라인 커뮤니티에서 딥페이크 앱을 광고하는 링크 수는 올해 초와 비교해 무려 2400% 늘었다. 그래피카는 “몇 년 전보다 훨씬 그럴듯한 이미지를 만들 수 있도록 AI 기술이 발전했기 때문”이라고 분석했다.

딥페이크 앱과 웹사이트가 인기를 끌수록 범죄에 악용될 수 있다는 우려가 심화되고 있다. 대부분 당사자 동의나 인지 없이 나체 사진 같은 음란물을 만들어 이를 배포하고 있기 때문이다. 심지어 일부 광고에서는 ‘타인의 나체 이미지를 만들어 그 사람에게 보낼 수 있다’는 내용을 대놓고 홍보하고 있다.

합성 미디어 모니터링 회사인 딥트레이스의 2019년 보고서에 의하면 온라인 딥페이크 영상의 96%는 음란물이다. 3년 전 영국에서는 실존 인물인 여성의 사진을 보내면 딥페이크로 옷을 삭제해 주는 텔레그램방이 개설돼 수십만 명의 피해자를 낳은 바 있다. 국내에서도 지난해 2월 한 20대 남성이 고등학교 후배 얼굴을 음란물에 합성해 소셜미디어에 퍼뜨리는 일이 있었다.

여러 온라인 사이트들은 철저히 모니터링해 유통되는 경우를 사전에 차단하겠다는 입장이다. 구글은 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고들을 검토하고 있고 정책을 위반한 것들은 삭제 중”이라고 했다. 레딧 측도 “가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 여러 도메인을 막은 상태”라고 했다. 동영상 플랫폼 틱톡도 ‘옷 벗기’(undress)라는 키워드를 차단하고 있다고 전했다.

-

조선일보 국제부가 픽한 글로벌 이슈! 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/275739

국제퀴즈 풀고 선물도 받으세요! ☞ https://www.chosun.com/members-event/?mec=n_quiz

[문지연 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -