디스코드 정책담당 수석 "AI 기술로 청소년 성착취물 유통 방지"

청소년 헌장·보호자 가이드라인 제작 주도한 바달리치 디렉터

"아동 안전 관련 사건 당국에 보고…각국 수사기관 정보요청 협조"

사바나 바달리치 디스코드 수석 정책 담당 디렉터 [디스코드 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 김주환 기자 = 전 세계 게이머가 활발히 사용하는 메신저 앱 디스코드(Discord)의 정책 담당자가 "AI(인공지능) 기술을 활용해 청소년 성착취물과 유해 콘텐츠를 탐지해 차단하는 데 주력하고 있다"고 밝혔다.

디스코드에서 콘텐츠 및 청소년 안전 정책 전반을 총괄하는 사바나 바달리치 수석 정책 담당 디렉터는 2일 연합뉴스와 서면 인터뷰에서 이같이 밝혔다.

미국 샌프란시스코에 본사를 둔 디스코드는 전 세계 월간 활성 이용자(MAU)가 2억 명에 달하는 동명의 메신저 앱을 운영한다.

디스코드는 손쉽게 다른 사람과 음성 채팅을 시작하고, 다양한 주제의 커뮤니티를 관리할 수 있는 기능이 주목받으며 10대 청소년층과 20대∼30대 게이머를 중심으로 인기를 끌어왔다.

최근에는 넥슨, 크래프톤 같은 국내 대형 게임사들도 의견 수렴과 커뮤니티 형성을 위해 게임별로 공식 디스코드 채널을 운영하고 있다.

바달리치 디렉터는 "디스코드 이용자 90% 이상은 게이머로, 매달 수천 개의 다양한 게임 타이틀에 총 15억 시간 이상을 보내고 있다"고 말했다.

그러나 최근 디스코드는 이런 용도와 무관하게 성 착취물이나 불법 프로그램, 안보 침해 정보를 유통하는 통로로도 악용되기도 했다.

청소년들과 인터뷰하는 사바나 바달리치 디스코드 수석 정책 담당 디렉터(왼쪽) [사바나 바달리치 디렉터 제공. 재판매 및 DB 금지]

이와 관련해 바달리치 디렉터는 "2021년 AI 기반 필터링 기술 기업 센트로피(Sentropy)를 인수한 이래 유해 콘텐츠 차단 기술을 고도화해왔다"며 그 사례로 오토모드(Automod)를 소개했다.

오토모드는 기계 학습을 통해 유해한 콘텐츠나 악성코드 링크, 심각한 모욕성 발언 등을 걸러내고 커뮤니티 운영자의 사전 설정에 맞춰 이용자 제재를 자동으로 수행할 수 있도록 도와주는 도구다.

또 AI 모델과 이미지 식별·추적 도구 '포토DNA'를 통해 성 착취물 유통을 감시하고 각국 수사기관과 협력하고 있다고 밝혔다.

바달리치 디렉터는 "아동 안전과 관련한 모든 사건을 미국 실종학대아동방지센터(NCMEC)에 보고하고 있으며, 이용자의 개인정보와 권리를 존중하되 법 집행 기관의 정보 요청이 들어오면 협조한다"며 "긴급한 안전 위협의 경우 직접 사안을 수사기관에 보고하고 수사에도 적극 협력하고 있다"고 강조했다.

바달리치 디렉터는 디스코드가 이달 초 청소년 이용자의 안전한 이용을 위해 발표한 '청소년 헌장'과 '보호자를 위한 가이드' 제작을 주도했다.

그는 "작년 말부터 전 세계에서 운영한 청소년 대상 포커스 그룹과 미국·유럽 청소년 안전 전문 기관과 협력해 가이드라인을 만들었다"며 "특히 교사와 학부모가 디스코드의 기능에 대해 알고, 청소년의 긍정적인 온라인 행동을 위한 대화를 시작하는 데 주력하고 있다"고 말했다.

디스코드 '보호자를 위한 가이드' [디스코드 제공. 재판매 및 DB 금지]

jujuk@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>