“AI가 맞춤형 포르노 만들어줘” 딥페이크 음란사진보다 위험한 것이 온다

美포르노업계, 개발 경쟁 치열
사진 합성한 일반인 피해 우려

‘어린이’ ‘교복’ ‘몰래카메라’ 등
부적절한 내용 거를 장치 없어
관련 규제 논의 사실상 전무

생성형 AI ‘소라(Sora)’가 입력된 텍스트대로 만든 영상/[자료=오픈AI]

#지난 15일(현지시간) 오픈AI는 텍스트를 영상으로 바꿔주는 영상 생성 AI, 소라(Sora)를 공개했다. 구글이 지난달에 먼저 공개한 영상 AI 모델 ‘루미에르’가 5초 분량의 영상을 제작해주는 데 비해 소라는 최대 1분 길이의 영상을 만들 수 있다.

#지난달 세계적 팝스타 테일러 스위프트의 AI(인공지능) 딥페이크 음란 사진이 소셜미디어(SNS)에 유포됐다. 선거를 앞둔 미국 정치권은 이같은 범죄를 막기 위한 법적 안전장치를 마련하겠다고 약속했다.

포르노 등장인물의 얼굴에 유명인의 얼굴을 합성하는 딥페이크 음란물이 심각한 사회 문제로 대두된 가운데, 차원이 다른 인공지능(AI) 포르노가 개발되고 있다는 보도가 나왔다.

소비자가 원하는 외형으로 배우를 창조하는 것은 물론, 영상의 내용도 간단한 텍스트로 소비자가 정할 수 있는 포르노가 나올 가능성이 높은 것으로 알려졌다. 이르면 2년 내에 소비자가 AI로 만든 배우와 실시간으로 소통하는 것도 가능할 전망이다.

미국 워싱턴포스트(WP)는 25일(현지시간) 포르노 업계의 AI 개발 사례를 소개하고 “AI는 성인 엔터테인먼트 산업을 영원히 바꿀 것이다. 이것이 초래하는 윤리적·법적 위험은 매우 심각하다”고 전했다.

WP는 전문 영상 제작업체가 포르노를 만들고 공급하던 시대에서 구독자들이 음란물 콘셉트 등을 제안하는 주문형 방식의 ‘온리팬스(OnlyFans)’ 시대를 거쳐 조만간 소비자 스스로 포르노를 만드는 ‘AI 비스포크(맞춤 제작) 시대’가 온다고 진단했다.

미국의 포르노 업계는 이미 영상 AI 포르노를 만들기 위한 작업을 진행하고 있다. 음란한 사진을 판매하는 웹사이트를 운영했던 미국인 존스는 과거 사업 파트너와 함께 딥페이크 관련 웹사이트를 사들이고, AI 포르노 엔진을 개발하는 업체를 설립했다.

엔젤 투자까지 받은 존스는 10여 명의 기술자들과 함께 온라인에 범람하고 있는 딥페이크 사진과 영상, 포르노 등을 통해 생성 AI를 구축했다. 현재는 이미지를 만드는 수준이지만 조만간 소비자가 원하는 영상도 제작할 수 있게 된다.

존스에 따르면 업계가 추구하는 포르노의 종착지는 AI가 생성한 배우에게 소비자가 직접 ‘명령’을 내리는 방식이라고 설명했다. 그는 2년 내에 이같은 포르노가 상용화될 것이라고 전망했다.

윤리적·법적 문제가 불가피하다. 게다가 딥페이크 음란물로 인한 문제보다 훨씬 복잡하고 광범위할 전망이다. 딥페이크는 주로 유명인을 노리지만, AI 포르노는 일반인도 대상이 될 수 있다. 동의하지 않은 개인의 얼굴과 몸이 AI 훈련에 활용된다는 문제도 있다.

성적 판타지를 실현한다는 미명 하에 부적절한 음란물이 제작될 여지 역시 매우 크다. 미국 포르노 업계는 ‘어린이’, ‘추행’, ‘교복’ 등의 법적으로 문제가 되는 단어들을 AI 프롬프트에 입력하지 못하도록 하는 등 안전 장치를 마련하고 있다는 입장이지만 쉽게 우회할 수 있다. 사용자가 표현의 방식만 바꿔서 얼마든 묘사가 가능하기 때문이다.

수많은 피해가 예상되지만 관련 규제는 전 세계적으로 봐도 사실상 없다. 미국이 비교적 빠르게 관련 규제를 도입하고 있지만, 9개 주만 개별적으로 법률을 시행하고 있을 뿐 연방 정부 차원의 법률은 없다. 그마저도 AI 딥페이크 이미지에 집중돼 있으며, AI 생성 포르노에 대한 논의는 사실상 시작되지 않았다는 평가다.

WP는 “AI 생성 모델을 통한 남용을 방지하는 방법을 마련하는 일은 매우 까다롭다”며 “AI 생성 모델은 기술적 한계는 있지만 도덕성은 없다”고 보도했다. 그러면서 포르노 업계 관계자의 말을 인용해 “AI 포르노는 인기를 끌 수밖에 없으며 즉시 남용되기 시작할 것”이라고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]