인공지능, 즉 AI를 이용해 아동·청소년 성 착취물을 자동 추적해 감시하는 기술이 개발됐습니다.
서울시가 서울연구원과 공동개발한 이 기술은 딥러닝을 이용한 '안면 인식'이 특징입니다.
영상 1,500개 분량을 학습하고 분석한 AI가 영상 속 얼굴의 성별과 나이를 판별하고, 얼굴이 나오지 않을 땐 영상 속 소품이나 활자, 청소년들이 주로 쓰는 언어 등도 함께 인식해 피해 영상물인지를 판별합니다.
덕분에 수작업으론 2시간 넘게 걸리던 업무 시간도 90초로 대폭 줄어들며 효율을 높였습니다.
[김준철/서울연구원 디지털도시연구실 : 앞으로는 좀 더 학습 데이터가 누적되면서 삭제 신고가 더 이뤄지기 때문에 더 많은 데이터를 갖고 학습을 진행하면서 모델은 진화해나가면서 정확도는 더 높아질 것…]
서울시가 집계한 최근 디지털 성범죄 피해 요청 현황에 따르면, 아동·청소년이 스스로 피해를 신고한 경우는 7.8%에 그쳤고, 삭제 조치한 전체 성 착취물 가운데 아동 청소년 스스로 삭제를 요청한 건 13.5%에 불과합니다.
이처럼 상대적으로 성인보다 신고를 꺼리는 아동 청소년 피해자의 특성에 맞게 AI를 이용해 미신고 영상까지 선제적인 감시와 조치가 가능한 것도 장점으로 꼽힙니다.
[문기현/서울디지털성범죄안심지원센터장 : 아이들의 경우에는 가장 꺼리는 게 부모님이 알게 될까 봐 그걸 가장 걱정을 해요. 그러다 보니 시간은 길어지고 유포는 빨리, 이미 되고 있고 이런 경우가 많습니다.]
전문가들은 개인정보를 악용해 '자기 촬영'을 유인하는 디지털 성착취물 범죄가 더욱 늘고 있는 만큼, 아동 청소년에게 디지털 에티켓과 리터러시 교육을 확대하는 등의 예방 조치도 필요하다고 설명했습니다.
(취재 : 신용식 / 영상편집 : 원형희 / 제작 : 디지털뉴스편집부)
신용식 기자 dinosik@sbs.co.kr
▶ 네이버에서 SBS뉴스를 구독해주세요!▶ 가장 확실한 SBS 제보 [클릭!]* 제보하기: sbs8news@sbs.co.kr /
02-2113-6000 /
카카오톡 @SBS제보
Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
인공지능, 즉 AI를 이용해 아동·청소년 성 착취물을 자동 추적해 감시하는 기술이 개발됐습니다.
서울시가 서울연구원과 공동개발한 이 기술은 딥러닝을 이용한 '안면 인식'이 특징입니다.
영상 1,500개 분량을 학습하고 분석한 AI가 영상 속 얼굴의 성별과 나이를 판별하고, 얼굴이 나오지 않을 땐 영상 속 소품이나 활자, 청소년들이 주로 쓰는 언어 등도 함께 인식해 피해 영상물인지를 판별합니다.
