과기정통부, 디지털·AI 기술로 딥페이크 피해 차단 '총력'

과기정통부 로고

과학기술정보통신부가 딥페이크와 불법촬영물 등 불법 콘텐츠 탐지를 고도화하고, 유포를 방지하는 플랫폼 기술 개발과 새로운 사업기획을 적극 지원하겠다는 방침을 밝혔다. 인공지능(AI)·콘텐츠 기술로 딥페이크 성범죄를 효과적으로 차단하며 안전한 디지털사회를 구현한다는 목표다.

강도현 과기정통부 제2차관은 신영숙 여성가족부차관과 서울시 중구 디지털성범죄피해자지원센터에서 이미지 합성 기술(딥 페이크) 성범죄 피해 예방책 등을 긴급 점검하고, 전문가 등 의견을 청취했다.

앞서 윤석열 대통령은 딥페이크 영상물과 관련 성범죄에 대한 강력한 대응을 주문했다. 과기정통부는 '새로운 디지털 질서 정립 추진계획' 일환으로 딥페이크 차단 기술을 개발하는 현황을 공유하며, 적극적인 지원 의지를 확인했다.

과기정통부는 '디지털 역기능 대응 R&D' 과제를 통해 딥페이크 탐지 고도화, 생성억제, 유포 방지 플랫폼을 개발하기 위해 성균관대와 24억원 규모 개발 과제를 추진한다. 한국전자통신연구원(ETRI)과도 같은 규모로 불법촬영물 이미지 유포 차단·추적 기술을 개발하고 있다. 실감콘텐츠 기술개발 과제를 통해 AI 기술을 접목한 자가 진화형 딥페이크 탐지 기술 개발에 2027년까지 40억원을 투입하고 있다.

과기정통부는 이같은 R&D·정책연구 과제를 최근 발생한 사건 등을 분석, 반영해 보다 고도화한다는 목표다. 새로운 사업과제를 발굴·기획하는 데에도 힘을 모으기로 했다.

과기정통부는 여가부와 7월부터 합동으로 '이미지 합성 기술(딥페이크) 기반 디지털 성범죄 피해 예방 및 보호방안 마련'을 위해 정책연구를 추진하는 등 협업을 강화하기로 했다. 정책연구 결과를 기반으로 올해까지 이미지 합성 기술(딥페이크) 발전에 따른 디지털 성범죄 관련 법제 정비 방향과 이미지 합성 기술(딥페이크) 성적합성물 탐지시스템 구축방안 등을 도출할 예정이다.

강도현 과기정통부 차관은 “과기정통부는 여가부와 협력해 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술개발, 새로운 사업 기획 등을 적극 지원하겠다”고 말했다.

박지성 기자 jisung@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]