불법촬영물 AI로 24시간 감시…서울시 산하기관 도입

영상 자동검출 3분 만에…정확도 200%↑

서울시가 AI를 도입해 24시간 디지털성범죄를 추적 및 감시한다고 29일 밝혔다./서울시 제공

[더팩트ㅣ문화영 기자] 서울시가 AI(인공지능) 기술을 도입해 24시간 디지털성범죄 촬영물을 추적한다.

서울시는 서울 디지털성범죄 안심지원센터 개관 1주년을 맞아 전국 최초로 디지털성범죄감시에 AI를 도입한다고 29일 밝혔다.

이 AI는 딥러닝을 기반으로 비디오, 오디오, 텍스트 등을 종합적으로 분석한다. 24시간 실시간 모니터링을 통해 피해 영상을 자동으로 검출한다.

AI를 통해 키워드 입력과 영상물 검출까지 3분 밖에 걸리지 않고, 정확도도 기존 시스템보다 200% 이상 향상된다. 이 과정에서 삭제지원관이 피해 영상물을 접하면서 발생하는 트라우마와 스트레스를 줄일 수 있다.

SNS는 특성상 전파와 공유가 쉽고 유포가 빠른 만큼 영상이 올라오자마자 신속하게 삭제하는 것이 무엇보다 중요하다. 기존에는 피해자의 얼굴과 특이점을 육안으로 판독하는 수작업으로 한계가 있었으며 영상물 검출까지 1~2시간이 소요됐다.

시는 최근 아동·청소년 디지털성범죄 피해건수가 증가함에 따라 관련 피해 예방에도 주력할 계획이다.

아동·청소년 디지털성범죄는 피해자나 가족의 신고 없이 온라인에서 유포되는 사례가 않다. 이에 시는 아동·청소년에게 익숙한 메타버스의 교육 콘텐츠를 IT기업과 협업해 개발하고 청소년 서포터즈 활동을 추진해 디지털성범죄를 예방한다는 계획이다.

디지털성범죄 안심지원센터는 지난해 3월 문을 열었다. 제2, 제3의 n번방 피해를 막기 위해 피해자들에게 긴급상담과 수사·법률지원, 삭제지원, 심리치료·의료지원 등을 제공한다.

오세훈 시장은 아날 오후 열린 개관 1주년 기념식에 참석해 이수정 교수, 학부모, 전문가들과 간담회를 가졌다.

이 자리에서 디지털성범죄 피해 예방과 피해자 지원을 위한 개선방안을 모색하고 시민들을 보호하기 위한 지원을 강화해나가겠다고 밝혔다.

culture@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write