“보고도 믿기지 않았다”…‘음란광고’ 등장 유명 女배우의 실체

엠마 왓슨이 딥페이크 기술로 SNS 음란 광고에 자주 등장하고 있다. [사진출처 = 엠마 왓슨 인스타그램]

엠마 왓슨이 딥페이크 기술로 SNS 음란 광고에 자주 등장하고 있다. [사진출처 = 엠마 왓슨 인스타그램]

영화 ‘해리포터’ 여주인공 엠마 왓슨이 딥페이크 기술로 SNS의 음란 광고에 등장하고 있다고 미국 NBC 뉴스가 8일(현지시간) 보도했다.

동영상에서 다른 사람의 얼굴을 합성하는 기술인 딥페이크는 최근 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있어 사회적 문제로 대두되고 있다.

NBC뉴스에 따르면 최근 페이스북에는 딥페이크 관련 애플리케이션 광고물에 왓슨의 얼굴이 자주 등장한다.

해당 광고물에서 왓슨은 수줍게 웃다가 카메라를 응시하며 몸을 굽히며 야릇한 행동을 한다.

이 광고는 실제 왓슨이 나오는 것이 아니라 딥페이크 기술을 이용해 합성한 것이다.

SNS에 등장하는 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 요한슨의 얼굴이 합성된 것으로 파악됐다고 NBC는 전했다.

배우 엠마 왓슨의 얼굴인 것처럼 나타나는 AI 기반 딥페이크 광고 스틸 사진. [사진출처 = NBC뉴스캡처]

이같은 ‘비동의’ 딥페이크 영상은 유명인사 뿐 아니라 미성년자까지 포함한 누구도 대상이 될 수 있어 문제의 심각성이 있다. 악의적으로 조작된 딥페이크 콘텐츠를 메타 등은 금지하고 있지만 규제의 사각지대를 비집고 버젓이 활성화돼 있다고 NBC는 지적했다.

NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했다. 문제의 앱은 5~6일 이틀간 메타 산하 페이스북, 인스타그램 등 SNS에 230개 이상의 동영상 광고를 하고 있었다.

이에 대해 메타 대변인은 성명에서 “우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 설명했다.

애플 대변인도 아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만 음란물을 포함한 앱은 금지한다고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]