‘노예놀이’ 덫 놓고 아이들 노리는 범죄…AI가 잡는다

서교동에 ‘서울시 성착취 통합대응센터’ 개관
성착취 탐지 AI 기술 ‘서울안심아이’ 첫 적용
오픈채팅방에 ‘온라인 그루밍’ 단어 포착되면
12명 상담요원이 채팅방 개입…성착취 예방

[123RF]

[헤럴드경제=박병국 기자] #1. ‘12세, 심심해요’ 제목으로 개설된 카카오톡 공개채팅방. 초등학생 A(12·여) 양과 ‘남학생’ 3명이 대화에 참여하고 있는 방이었다. 남성들은 모두 자신들이 중학생이라고 밝혔지만 이들은 각각 고등학생과 성인들이었다. 남성 한 명이 ‘노예 놀이’를 제안했다. 순서대로 노예가 돼 서로가 원하는 것을 하는 게임이다. 가벼운 장난으로 시작한 ‘노예 놀이’의 수위는 점점 높아졌다. 남성들은 노예가 된 A양에게 신체 사진을 요구하기에 이른다. 이때 갑자기 채팅방에 또 다른 누군가가 입장했다. 대화에 참여하지 않았지만, 모든 대화 내용은 알고 있었다. 자신을 서울시 상담요원이라고 밝힌 이 사람은 “성범죄 현행범으로 경찰에 신고했다”고 말했다.

#2. 또 다른 카카오톡 공개채팅방. 이번에는 ‘15세, 여중딩만 대화 가능’ 제목으로 개설된 방이었다. 이 방을 개설한 사람은 중학생이 아니라 성인들이다. B양이 방에 입장, 자신을 14세 중학생이라고 소개했다. 해당 방에 있던 남성들은 “게임을 좋아하는지” “어떤 아이돌을 좋아하는지” 등을 물었다. 그러면서 “공부하기 너무 힘들지 않나” “배고프지, 마라탕 사줄까” 라며 마라탕 쿠폰을 보내줬다. 용돈이 너무 적다고 투덜거리는 B양에게는 아르바이트를 소개해주겠다고 하며 “한 번에 10만원도 벌수 있다”고 유인했다. B양은 “어디로 가면 되나요”라고 물으며 오프라인에서 만날지 고민한다. 이번에도 서울시 상담요원이 갑자기 등장했다. 상담요원은 “조건만남을 유도하거나 사기일 수 있다는 경각심을 일깨워주고 상담을 해주며 가해자 계정을 신고할 수 있다”고 안내했다.

이들 사례는 실제 있었던 아동 성착취 범죄 실제 사례에 서울시가 이달 말 문을 여는 ‘서울시 성착취 통합대응센터’의 상담요원 투입을 가정한 시뮬레이션 사례다. 서울시가 인공지능(AI) 기술을 활용, ‘온라인 그루밍’ 등 ‘미성년 성착취 유인범’을 잡아낼 계획인 것으로 파악됐다.

10일 헤럴드경제 취재를 종합하면 서울시가 이달 말 서울 마포구 서교동에 개관하는 ‘서울시 성착취 통합대응센터(이하 센터)’ 상담 요원들은 AI가 감지한 성착취 현장에 적극 투입한다. 센터는 AI를 통한 성착취 예방 외에도, 사후적으르는 성착취 피해 여성의 의료지원도 진행한다. 센터가 들어서는 곳은 기존 서울시 십대여성건강센터 ‘나는봄’이 있던 자리다. 센터에는 총 12억4000여 만원의 예산이 신규로 투입된다.

센터의 가장 큰 특징은 서울시가 지난해 말 개발한 ‘서울 안심아이’를 활용한 성착취 현장 탐지다. 서울안심아이는 온라인 위험 징후를 포착하는 AI 기술이다. 오픈 채팅방 대화 흐름 속에서 “사진 보내줄래” “영상통화 할까” “집이 싫으면 가출해 볼래” “용돈 받고 뭐 원하는 거 해주고 그러는 거야”와 같이 성범죄의 트리거가 되는 표현 패턴을 감지한다. 단순히 특정 단어를 감지하는 수준을 넘어, 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계됐다.

서울 안심아이는 특히 온라인 그루밍을 탐지하는 역할도 하게 된다. 온라인 그루밍은 성착취를 목적으로 온라인에서 아동·청소년을 유인하는 행위로 성인이 아동·청소년에게 만남을 제안하는 의도적 접근을 성적 학대의 한 형태로 정의된다. 앞에서 든 사례 모두가 온라인 그루밍의 성격을 띄고 있다. 실제 서울시가 서울시여성가족재단에 의뢰, 지난해 실시한 온라인 그루밍 설문조사(서울시내 초5~고3 2316명 대상)에 따르면, 응답자의 19%가 ‘온라인에서 말 걸기, 선물 제공, 성적 대화 요구 등’ 온라인 그루밍 접근을 경험한 것으로 나타났다.

서울안심아이가 성착취 대화를 24시간 탐지하면 그 내용은 센터에 있는 요원들에게 전달된다. 센터에는 12명의 상담요원들과 추가 야간상담원들이 상담을 지원한다. 성착취가 이뤄지는 오픈채팅방과 대화 내용이 요약되고 문제가 있다고 AI가 판단하면, 상담요원들은 직접 대화에 개입한다. 상담요원들은 상황에 따라 서울시 상담원이라고 신분을 밝히거나, 아이들이 대화를 더 편히 할 수 있도록 전문적 지식을 가진 대학생 또래 상담자로 위장한다.

서울시 관계자는 “아동과 청소년 대상 성착취는 이제 사실 거의 온라인 상에서 이뤄지고 있는데 온라인 성착취에 대한 접근이 거의 이뤄지지 못하고 있다”며 “성착취 후의 조치를 하는 기관은 많지만 성착취가 발생하기 전에 개입하는 기관은 없다. 성착취대응센터는 선제적으로 성착취를 막을 수 있다는 점에서 의미가 있다”고 말했다.