서울시 'AI 디지털 성범죄 삭제지원', 정부혁신 우수사례 대상 수상

김선순 서울시 여성가족정책실장(사진 오른쪽) 수상 모습

서울시가 '디지털 성범죄 인공지능(AI) 삭제지원 프로그램'으로 행정안전부가 개최한 '2023 정부혁신 우수사례 경진대회'에서 대통령상 '대상'을 수상했다고 28일 밝혔다.

디지털 성범죄 AI 삭제지원 프로그램은 AI 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 시스템이다.

AI가 기존 피해 영상 삭제지원에 비해 보다 빠르고 정확하게 삭제지원을 할 수 있다는 점, 이를 통해 피해자 고통을 줄이고 일상회복을 지원할 수 있어 기존 디지털 성범죄의 가장 고질적 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.

서울시는 '서울 디지털 성범죄 안심지원센터(서울시여성가족재단 운영)'를 통해 AI를 도입한 지 7개월 만에 총 45만 건의 영상물을 모니터링했다. 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때와 비교하면 무려 1265%나 상승한 규모다.

서울시는 AI 기술 도입과 함께 아동·청소년 피해 예방에 주력할 계획이다. 아동·청소년 피해 영상물이 성인 영상과 잘 구분되지 않아 삭제지원에 어려움이 있다는 점에 착안해 서울연구원과 함께 내년 상반기를 목표로 'AI 기반 아동·청소년 피해 영상물 삭제지원 프로그램'도 개발 중에 있다.

서울시는 예방부터 재발방지에 이르는 '디지털 성범죄 통합대응정책'을 국내 뿐 아니라 해외에 확산·전파하기 위해 2024 UN공공행정상(UNPSA)에도 본 사업을 응모·제출했다.

김선순 서울시 여성가족정책실장은 “디지털 성범죄 삭제지원은 많은 분들이 가장 필요로 하는 지원이었다”며 “디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱지원을 통해 피해자 한 분 한 분이 빠르게 일상을 회복할 수 있도록 최선을 다하겠다”고 말했다.

김명희 기자 noprint@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]