“수백만 조회수 터졌다”…‘노브라 산책’ 영상 속 도쿄대女의 충격적 실체

일본에서 선정적 동영상으로 높은 조회수를 기록 중인 여성 유튜브를 두고 ‘생성형 인공지능(AI)이 아니냐’는 주장이 나왔다. [사진출처 = 산케이 신문]

일본에서 선정적 동영상으로 높은 조회수를 기록 중인 여성 유튜브를 두고 ‘생성형 인공지능(AI)이 아니냐’는 주장이 나왔다. 해당 유튜브 계정은 현재 정지된 상태다.

일본 매체 산케이신문은 지난 16일 “생성형 AI에 의해 작성·가공된 것으로 보이는 젊은 여성의 선정적 동영상이 온라인에서 확산하고 있다”며 “이 유튜버 영상은 수백만 조회수를 기록 중으로 전문가들은 해당 유튜브 채널이 AI로 수익을 올리려고 만들어진 것으로 보인다고 분석했다”고 보도했다.

지난해 9월 개설된 ‘미스도쿄대’가 문제가 된 유튜브 채널로 영상 속 유튜버는 자신을 도쿄대 재학 중인 이공계 여대생이라고 소개했다.

신문은 “이 채널에는 모델과 같은 외모를 가진 여성이 화면을 응시한 채 공원이나 야외를 걷는 모습이 담겨 있다”며 “특히 ‘노브라 산책’ 등의 자극적인 제목을 올리는가 하면, 옷을 입은 상태에서 속옷을 벗는 모습을 보여 주는 영상을 10개 이상 업로드했다”고 지적했다.

논란이 일다 도쿄대 홍보팀은 이 유튜브에 대해 “알지 못한다”고 답했다.

해당 유튜브 채널은 현재 정지된 상태다. 전문가들은 이런 영상이 AI로 제작될 가능성이 있다고 했다.

에치젠 공 국립정보학연구소 교수는 “생성형 AI로 만든 딥페이크(특정 인물의 얼굴 등을 영상에 합성하는 것)일 가능성이 있다”며 “그림자나 움직임이 자연스럽게 보이지만, 옆모습이 잘려있거나 다른 물체가 얼굴을 가리는 장면이 없는 경우도 많다”고 설명했다.

이에 산케이 신문은 AI를 활용해 선정적 영상을 올리며 구독자 조회수를 끌어 들이는 것과 관련 유튜브의 수익 구조에 대한 문제를 제기했다.

사사하라 카즈토시 도쿄공업대 교수는 “유튜브는 딥페이크를 이용해 돈을 벌 수 있는 구조”라며 “딥페이크 포르노가 대량 생산되면 사회적 문제를 일으킬 수 있다”고 우려했다.

AI 딥페이크의 희생양이 된 세계적 팝스타 테일러 스위프트. [사진출처 = 연합뉴스]

일본 뿐 아니라 최근 생성형 AI를 둘러싼 논란이 전 세계적으로 문제가 되고 있다.

실제로 최근 음악, 영화, 드라마, 웹툰 등 문화산업 전반애 걸쳐 생성형 AI가 저작권을 침해하는 것은 물론 사회 윤리 규범을 침해하는 일이 늘어나고 있다.

세계적인 팝스타 테일러 스위프트도 AI 딥페이크의 희생양이 됐다.

지난 1월 미 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 지난 주 X(옛 트위트)에서 스위프트의 얼굴이 합성된 딥페이크 음란 이미지가 최소 4700만회 조회됐다. 이 사진들은 현재 삭제된 상태지만 스위프트의 팬들은 X가 상당 시간동안 음란 이미지가 노출되도록 방치했다면서 분노를 쏟아내고 있다.

여론이 심상치 않자 정치권이 나섰다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 스위프트 딥페이크와 관련해 “매우 우려스럽다. 조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다”며 “우리는 계속해서 조치를 취할 방침이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

AI 업계에서 선두 경쟁을 벌이고 있는 마이크로소프트(MS)의 대표(CEO) 사티아 나델라는 미 NBC 방송과 인터뷰에서 “AI 기술에 안전장치를 설치해 안전한 콘텐츠가 생산되도록 하는 일은 우리의 책임”이라며 “동시에 법 집행기관도 기술 플랫폼들과 협력해 더 많은 것을 규제할 수 있을 것”이라고 말했다.

나델라가 정부 규제에 적극 찬성 의견을 낸 이유는 이번 스위프트 딥페이크 이미지가 MS의 AI 생성 도구인 ‘디자이너’로 만들어졌다는 의혹이 있기 때문이다. 앞서 MS는 이에 대해 조사 중이라는 입장을 밝힌 바 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]