국회는 디지털 성범죄 대응 강화…서울시는 AI 기반 딥페이크 검출 기술 개발

3일 오전 국회 의원회관 제8간담회의실에서 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책토론회'에 참석한 오세훈 서울시장이 이인선 의원의 인사말을 경청하고 있다. 사진=서울시 제공

여당은 딥페이크 디지털 성범죄 대응을 위한 태스크포스(TF)를 구성하고, 서울시는 인공지능(AI) 기술 기반 딥페이크 불법 영상물 검출 기술 개발에 나섰다.

조은희 국민의힘 의원과 한국여성인권진흥원이 주최하고 여성가족부와 서울시가 후원하는 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'가 3일 국회 의원회관 제8간담회의실에서 개최됐다.

이날 토론회는 딥페이크 디지털 성범죄 예방과 대응책 마련을 위해 국회, 정부, 지자체, 관계기관의 효과적 수사 공조 대안과 지원 강화 방안을 찾기 위해 열렸다.

우선 국민의힘은 딥페이크 디지털 성범죄 근절을 위해 당내 태스크포스(TF)를 구성하기로 했다.

추경호 국민의힘 원내대표는 “딥페이크와 관련된 문제가 한두군데 상임위에 속한 문제가 아니기 때문에 이른 시일 내 딥페이크 관련 TF를 구성할 것”이라며 “법사위·과방위·교육위·행안위 등을 포함해 여러 의원과 전문가를 모시고 본격적으로 현상을 진단하고 상응하는 대응책을 마련해나갈 예정”이라고 말했다.

여야가 디지털 성범죄 예방에는 이견이 없는 만큼 관련 법안도 신속하게 처리될 것으로 예상했다.

조은희 의원은 “치외법권 지대로 불리는 텔레그램 범죄에 대응해 경찰의 수사여건을 개선할 수 있는 방법, 나날이 진화하는 디지털환경에 대응한 청소년 범죄예방, 성교육 병행 계획까지 국회가 함께 풀어가야 할 숙제가 많다”고 강조했다.

서울시는 AI 기술을 고도화해 지자체 차원의 대응책을 준비하고 있다.

우선, 연내 얼굴 매칭을 통한 AI 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발하고, 검색부터 신고까지 전 과정을 AI가 운영하는 'AI 신고자동화 시스템'을 구축한다. 기존 시스템과 연계해 빠르게 딥페이크 영상을 찾아낼 수 있어 피해자 지원과 시민 불안 해소에 기여할 계획이다.

시는 지난해 전국 최초로 AI로 피해 영상물을 24시간 자동 추적·감시·삭제하는 솔루션을 개발한 바 있다.

오세훈 서울시장은 “서울시는 이미 2~3년 전부터 디지털 성범죄 대책을 업그레이드해왔다”며 “신속한 피해자 보호와 지원을 위해 불법 영상물 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다”고 요청했다.

이수정 경기대 범죄심리학과 교수는 주요 발제자로 나서 딥페이크 등 불법 영상물 근절을 위해 과징금 부과나 서비스 운영 정지 등 '플랫폼 기업'을 제재할 수 있는 장치를 마련하고, 이들에게 삭제 의무를 부여해야 한다고 밝혔다.

이 교수는 “해외에서는 영리적 목적으로 운영되는 플랫폼 기업에 (불법 게시물 등에 대한) 책임을 지게 한다”며 “최근의 세계적 추세는 가해자만 강력 처벌하는 것이 아니라 플랫폼 운영사와 사업자에도 아동청소년 보호와 관리감독의 책임을 지게 하고 있다”고 설명했다.

김명희 기자 noprint@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]