상반기 '딥페이크' 음란물 6071건 적발…올해 1만건 넘길라

방심위 "SNS 등 중점 모니터링…피해 최소화 주력"

(출처 : 방송통신심의위원회)

(서울=뉴스1) 양새롬 기자 = 올해 상반기 딥페이크(인공지능으로 만든 영상·이미지 합성 조작물) 기술을 악용한 '성적 허위영상물'이 6000여건 적발된 것으로 확인됐다.

전년도 총 시정요구 7187건의 84% 수준에 이른다. 하반기까지 이같은 추세가 이어지면 1만 건을 넘길 가능성이 제기된다.

방송통신심의위원회는 올해 상반기 디지털성범죄정보 총 3만 5737건에 시정요구를 결정했다면서 18일 이같이 밝혔다.

위반내용 별로는 불법촬영물이 2만 9560건, 성적 허위영상물 6071건, 성 관련 초상권 61건, 피해자 신원공개 45건 순이었다.

이 중 성적 허위영상물의 시정요구는 2021년 이후 매년 두 배 가까이 증가하고 있는 추세다.

딥페이크 기술의 발전으로 일반인들도 손쉽게 해당 기술을 이용할 수 있게 됨에 따라 유명 연예인뿐만 아니라 일반인을 대상으로 한 성적 허위영상물도 확인되는 상황이다.

올해는 상반기에만 6071건에 달해 전년도 총 시정요구 건수(7187건)을 넘어설 것이란 게 방심위 측 전망이다.

방심위 관계자는 "최근 청소년을 대상으로 한 딥페이크 합성물 유포 사건이 다수 발생하는 등 성적 허위영상물의 피해범위가 확장되고 있어 우려스럽다"며 "소셜네트워크서비스 등 중점 모니터링을 지속적으로 실시해 성적 허위영상물로 인한 피해를 최소화하는데 주력하겠다"고 말했다.

한편 방심위는 24시간 365일 운영되는 상황실을 통해 피해자와 지원기관으로부터 직접 피해를 접수하고 모니터링 중이다. 매일 전자심의를 열어 24시간 이내에 디지털성범죄정보를 시정요구 조치하고 있다.

디지털성범죄 피해 관련 문의나 상담은 '디지털성범죄 원스톱 신고 ARS'를 이용하면 빠르고 효율적인 피해구제 조치를 받을 수 있다.

flyhighrom@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.