동의없이 '비키니·알몸 합성'…국내서도 피해호소 잇따라
인니·말레이 등 차단 조치…韓도 "대응 방안 검토"
 |
ⓒ News1 양혜림 디자이너 |
(서울=뉴스1) 김정현 김민수 기자 = 엑스(X, 구 트위터)가 '그록'을 통해 선보인 새로운 기능의 딥페이크 성착취물 콘텐츠 제작 논란이 확산되고 있다. 해외에서는 접속을 차단한 국가들도 나오는 중이다.
13일 IT업계에 따르면 X는 지난달 25일 다른 사람이 X 계정에 올린 사진·그림을 제3자가 마음대로 그록을 이용해 수정하고 자신의 계정에 업로드할 수 있도록 하는 기능을 업데이트했다.
현재 X에서는 이미지 우측 하단의 '이미지 편집'(Edit Image) 버튼만 누르면 그록이 실행된다. 그록에게 지시하면 이미지가 AI로 수정된다.
사용자는 AI로 변형된 이미지로 새로운 게시물을 작성하거나 원본 게시물에 답글로 달 수 있다. 특히 사용자는 팔로우하지 않는 사람에게도 수정한 이미지를 노출시킬 수 있다.
X 이용자들 중에는 옷을 입고 있는 일반적 사진을 올렸다가 모르는 사람이 그록을 이용해 비키니나 속옷을 입은 사진으로 '딥페이크' 합성한 사진에 노출됐다고 호소하는 사람이 적지 않은 상태다.
최근에는 그록이 안전장치 없이 미성년자의 이미지를 가지고 비키니 등 노출이 많은 의상과 합성한 이미지를 생성하고 이를 X에 공개해 큰 논란이 일었다.
국내 X 이용자들 사이에서도 얼굴이 나온 사진을 올렸다가 전혀 모르는 제3자가 그록을 이용해 제작한 딥페이크 사진에 노출됐다는 피해 호소가 나오고 있다.
 |
ⓒ AFP=뉴스1 |
해외 각국 X에 경고·차단 나서…"딥페이크, 인권 존엄성 침해"
이같은 피해에도 X는 그록 AI 이미지 생성을 차단하는 기능을 제공하지 않고 있다. 이용자들은 자체적으로 X 계정의 답글 기능을 제한하는 등을 미봉책으로 공유하는 중이다.
이번 X의 AI 합성 기능은 세계적으로도 문제가 제기되고 있다.
미국에서는 론 와이든, 에드 마키, 벤 레이루한 등 민주당 소속 상원의원 3명이 지난 9일(이하 현지시간) 구글과 애플 최고경영자(CEO)를 상대로 "그록과 X 앱을 앱스토어에서 퇴출하라"는 요구 서한을 보냈다.
영국도 리즈 켄덜 기술부 장관이 X의 딥페이크 문제를 두고 "규제 당국인 오프컴(Ofcom)의 접속 차단 결정에 전폭적인 지지를 보낼 것"이라고 경고했다.
일부 국가는 X 및 그록의 접속 차단 조치에 나서기도 했다.
인도네시아 통신디지털부는 동의 없는 딥페이크가 인권과 존엄성을 침해한다는 이유로 그록 접속을 차단했다. 말레이시아 통신멀티미디어위원회(MCMC)도 12일 그록 접속을 일시제한했다.
 |
X에서 그록 딥페이크 합성을 호소하는 이용자들(X 갈무리)/뉴스1 |
방미통위 "X 사태, 유통이 문제…대응방안 종합 검토 중"
한국 정부 역시 이번 논란을 인지하고 대응 방안을 논의하는 중이다.
방송미디어통신위원회 관계자는 "현행 정보통신망법을 통해 유통되고 있는 딥페이크물은 사후 삭제·차단을 할 수 있는 체계가 만들어져 있다"면서도 "(X의 사례는) 그록을 통해 생성된 부적절한 이미지가 (X를 통해) 유통된다는 점이 문제"라고 설명했다.
이어 "현행 성폭력처벌법에 따르면 불법 촬영물이나 성적 딥페이크물은 소지만으로도 처벌이 된다"며 "(딥페이크물) 소지 목적의 생성을 규제해야 한다는 의견도 있어 대응 방안을 종합적으로 검토 중"이라고 말했다.
한편 일론 머스크 테슬라 최고경영자(CEO)는 이같은 각국의 조치를 두고 "파시스트적"이라며 "(정부들이) 검열을 위한 구실을 찾고 있다"고 반발하고 있다.
Kris@news1.kr
Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.
이 기사의 카테고리는 언론사의 분류를 따릅니다.