AI가 해외 유포 아동청소년 성착취물까지 검출해 삭제

안면인식으로 성별과 나이 예측
교복 등 사물과 언어로도 판별
육안 판독 시 2시간 검출속도
1분 30초로 줄이고 정확도 향상
중국·러시아 등 해유포물도 삭제

아동·청소년 디지털 성범죄 AI 감시 시스템 결과 화면 예시. <자료 = 서울시>

아동청소년 성착취물을 24시간 자동으로 찾아내 삭제하는 AI 감시 기술이 도입됐다.

서울시는 아동․청소년 성착취물을 특정할 수 있는 AI 감시 기술을 전국 최초로 개발해 자동 추적 및 감시에 나선다고 22일 밝혔다.

이달 시는 서울 디지털 성범죄 안심지원센터와 함께 ‘아동·청소년 디지털 성범죄 AI 감시 시스템’의 개발을 완료하고 현장에 투입했다. AI 딥러닝에 기반한 인식기술로 성인과 잘 구분되지 않는 아동과 청소년의 성별과 나이를 판별할 수 있는 시스템이다. 영상물에 얼굴이 나오지 않더라도 아동과 청소년 피해 영상물 여부를 찾아낼 수 있다는 점이 특징이다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 인식해 피해 영상물 여부를 판별한다.

검출 속도는 빨라지고 정확도는 높아졌다. 키워드 입력부터 영상물 검출까지 90초면 끝난다. 기존에 삭제지원관이 관련 키워드로 피해 영상물을 검색해 수작업으로 찾아낼 때 2시간가량 걸리는 것과 비교하면 검출 속도가 1/80로 개선됐다. 정확도도 300% 이상 향상됐다. 새 시스템 도입으로 지난해 수작업으로 이뤄진 모니터링 건수인 15만 건의 2배인 30만 건까지 모니터링이 가능해진다. 시는 AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대하고 있다.

아울러 시는 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 퍼지는 점에 착안해 검색 영역을 국외로 넓혔다. 국내와 미국뿐 아니라 중국, 러시아 등의 국가에 유포된 피해 영상물 검색도 가능해진다.

아동과 청소년의 경우 관련 법에 따라 당사자나 부모의 신고 없이도 피해 영상물 삭제가 가능하다. 시는 AI를 통해 아동과 청소년 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응한다는 계획이다. 시 관계자는 “아동 및 청소년들은 디지털 성범죄 피해를 당하더라도 부모님에게 말하지 못해 신고가 이뤄지지 않아 피해 영상물이나 사진이 유포되는 경우가 많다”며 “이를 선제적으로 방지하기 위해 이번 기술 개발에 나섰다”고 취지를 밝혔다.

실제로 서울 디지털 성범죄 안심지원센터의 피해 요청 현황을 살펴보면 아동과 청소년 피해자가 스스로 신고한 경우는 12명(7.8%)밖에 되지 않는다. 부모가 피해 사실을 확인해 수사·사법기관 등에 신고한 경우가 대부분이다.

한편 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사 및 법률지원, 삭제지원, 심리 및 의료 지원까지 원스톱 지원하고 있다. 2022년 3월부터 올해 3월까지 2년간 935명의 피해자를 지원했다. 총지원 건수는 3만 576건에 이른다.

시가 지원한 피해자의 연령대는 10~20대가 가장 높은 비율을 차지하고 있으며, 성별로는 여성이 85.78%, 남성은 12.09%였다. 아동 청소년을 대상으로 한 디지털 성범죄 피해지원은 2022년 총 2026건에서 1만 5434건으로 7배 이상 증가했다.

아동청소년 디지털 성범죄 피해 유형은 온라인 그루밍 68건(27.5%)이 대다수였으며, 유포·재유포 45건(18.2%), 유포불안 43건(17.4%) 순이었다. 특히 최근에는 불법 사진합성, 남성 청소년 대상 몸캠피싱, 대출 조건 나체사진 전송 등이 증가하고 있다. 아동청소년들이 사회관계망서비스(SNS)에 올린 일상 사진에 음란물 등의 성적 이미지와 합성을 해 유포하거나 판매하는 수법도 늘었다.

디지털 성범죄 피해를 당한 아동청소년, 시민 등은 센터 상담전용 직통번호 ‘815-0382(영상빨리)’ 나 서울 디지털 성범죄 안심지원센터 홈페이지로 문의하면 된다.

김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 n번방 사건 이후 4년이 흘렀지만 여전히 아동청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다”며 “아동청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시와 삭제에 나서 아동청소년이 안전한 서울을 만들어나가겠다”고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]