'딥페이크 삭제' 디성센터 "1명이 1만6천건 작업"…예산·인력 심각

올해 502건 삭제한 센터…지난해보다 68%↑

법적권한 미미…현행법 설치근거 규정 부재

"텔레그램 등에 삭제 요청 쉽지 않은 상황"

인력난 심각…직원 1명이 1만6000건 삭제

"여가부, 예산·인력 충분히 확보해 지원해야"

[그래픽=뉴시스] hokma@newsis.com

[서울=뉴시스]권신혁 기자 = 최근 대학교에 이어 초·중·고등학교까지 딥페이크(기존 사진이나 영상을 다른 사진이나 영상에 겹쳐서 실제처럼 만들어 내는 인공지능 기반 이미지합성기술) 성범죄 피해가 확산되며 정부 발등에 불이 떨어졌다.

주무부처인 여성가족부가 급하게 대응에 나서고 있으나 정작 딥페이크 불법영상물 삭제 작업을 담당하는 디지털성범죄피해자지원센터(디성센터)의 역할이 제한돼 피해자 보호의 실효성이 떨어질 수 있다는 우려가 나온다.

29일 디성센터를 운영하고 있는 여가부 산하 한국여성인권진흥원에 따르면 올해 1월부터 8월25일까지 딥페이크 삭제 지원 건수는 502건이다. 지난해 298건에 비해 68.4% 증가했다. 특히 미성년 피해자의 경우 올해 238건으로 절반 이상을 차지한다. 지난해 86건보다 약 3배 늘었다.

디성센터는 이 같은 딥페이크 및 불법촬영물 피해자들의 영상 및 사진을 삭제 지원하는 역할을 수행하고 있다. 센터는 입수한 불법영상물에서 조작되고 편집돼도 변하지 않는 'DNA' 정보를 통해 유포된 촬영물을 모니터링한다. 이후 사이트 운영자와 호스팅 사업자에게 해당 영상을 삭제할 것을 요청한다.

다만 현재 디성센터는 법적 공백과 예산 부족 등으로 피해자 보호에 차질을 겪고 있는 것으로 알려졌다. 이에 센터의 역할을 강화해 피해자 보호에 힘을 실어줘야 한다는 목소리가 나온다.

우선 법적인 권한이 제한돼 있다. 현행 성폭력방지 및 피해자보호 등에 관한 법률(성폭력 방지법)엔 디성센터가 불법영상물 삭제를 요청할 수 있다는 내용은 있으나 디성센터의 설치근거를 규정한 조항은 없다. 정작 삭제 지원을 수행하는 센터에 법적 권한이 부여되지 않았다는 의미다.

이 같은 입법적 공백은 최근 딥페이크 영상물이 해외에 서버를 둔 '텔레그램'을 통해 유포되고 있다는 점에서 여실히 드러난다.

이와 관련해 디성센터 측은 지난 6월11일 디성센터 프레스투어에서 "디성센터가 영상이 유포된 해외사이트에 삭제요청을 하는 경우 사이트 측에서 우리가 어떤 센터인지, 삭제 관련 권한을 갖고 있는 게 맞는지 의심하며 요청에 불응한다"고 말했다.

국제협력 관련 법적 근거도 부재하다. 현재 디성센터는 해외 유관기구인 미국의 국립아동실종학대방지센터(NNMEC·National Center for Missing and Exploited Children), 사이버시민권보호기구(CCRI·Cyber Civil Rights Initiative), 영국 RPH(Revenge Porn Helpline) 등과 협력하고 있다. 다만 법 근거의 미비함으로 인해 예산이 '0'원인 상태에서 줌(zoom)으로 회의를 진행하는 상황도 벌어졌다.

[서울=뉴시스] 권신혁 기자 = 한국여성인권진흥원 디지털성범죄피해자지원센터가 지난 6월11일 프레스투어를 열고 불법촬영물 삭제시연을 진행했다. (사진 = 여성가족부 제공) 2024.06.12. innovation@newsis.com

박성혜 디성센터 삭제지원팀장은 전날(28일) 뉴시스와 통화에서 "성폭력방지법에 '국가가 디성센터를 설치해 운영한다'는 조항을 명시하는 방향으로 설치근거법을 추진하고 있다"고 밝혔다. 또 "법적 근거가 미미해 텔레그램 등에 삭제 요청을 하는 게 쉽지 않은 상황"이라며 "법적 권한 보장은 꼭 필요한 사항"이라고 강조했다.

예산 부족도 문제로 꼽힌다. 디성센터는 2018년 설립 이후 5년 간 총 91만1560건의 삭제지원을 진행했고 지난해 삭제지원은 24만5416건이다. 2018년 2만8879건에 비해 약 8배 증가했다. 설치연도임을 고려해 2020년(15만8760건)과 비교하면 약 1.5배 늘어난 수준이다.

이 같이 삭제지원 건수가 늘어나고 있는 가운데, 디성센터는 관련 예산이 턱없이 부족하다는 입장이다. 인력난을 해소하고 딥페이크 모니터링 시스템을 고도화하는 데 추가적인 지원이 필요하다는 것이다.

실제로 센터는 설립 초기부터 인력 부족을 호소해왔다. 올해 기준 삭제지원팀의 인원은 15명~20명이다. 지난해 처리한 삭제지원건수가 24만건인 점을 고려하면 직원 1명이 1만2000건~1만6000건을 맡은 셈이다. 센터 관계자는 "매일 피해촬영물을 보며 트라우마가 생긴 직원도 있다"고 했다.

이 같은 인력난과 더불어 시스템 자동화의 필요성도 제기된다. 현재 센터는 확보한 불법영상물의 url 수천개를 모두 복사해 온라인 사업자에게 이메일 등의 창구로 일일이 전송하고 있다. 신보라 진흥원 원장은 "수작업 없이 자동으로 요청을 보낼 수 있는 시스템을 구축하겠다"고 밝힌 바 있다.

이에 한국여성인권진흥원은 여가부를 통해 기재부에 내년도 예산을 30억원 가량 늘려달라고 요청했다.

이를 두고 허민숙 국회입법조사처 조사관은 "인력도 예산도 상당히 부족하다"며 "이 때문에 피해자들이 개인적으로 (디지털) 장의사에게 삭제를 요청하는 경우도 있다"고 말했다.

그러면서 "여가부가 충분한 예산과 인력을 확보해 모든 피해자들이 안심하고 비용 걱정 없이 삭제 지원을 받을 수 있도록 조처를 할 필요가 있다"고 강조했다.

한편 디성센터 관계자에 따르면 현재 센터는 딥페이크 영상물이 유포될 때 피해자의 학교 등 신상 정보가 함께 퍼지는 것과 관련해 이를 규제하기 위한 성폭력 방지법 개정안도 준비하고 있다.

☞공감언론 뉴시스 innovation@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개