틱톡, 머신러닝·심사역·가이드라인 '삼중 시스템'으로 이용자 보호 고도화 : zum 뉴스

싱가포르에 위치한 틱톡 투명성 및 책임 센터(TAC) 내부

#담배를 입에 물거나, 흉기를 신체 가까이에 대는 행동을 하자 틱톡 센터 내 모니터에 '흡연' '상해' 카테고리 위험 지수가 빨갛게 변하며 높아진다. 반면 단순히 담배를 들고만 있거나 칼로 고기를 써는 행동을 하면 지수는 흰색으로 표시되며 내려간다. 머신러닝을 적용한 모니터링 기능이 작동한 모습이다. 틱톡은 단순한 사물 인식이 아니라, 인물의 동작이나 맥락을 함께 고려해 위험도를 판단하고 콘텐츠 유통 여부를 결정한다.

지난 13일 틱톡은 싱가포르 본사에 위치한 틱톡 투명성 및 책임 센터(TAC)에서 자사 알고리즘과 콘텐츠 심사 과정을 한국 언론에 공개하며 플랫폼의 투명성과 책임성을 강조했다.

틱톡은 매일 약 160만 건의 유해 콘텐츠를 삭제하고 있다. 콘텐츠는 업로드 이후 자동 필터링, 전문 심사역 검토, 최종 검토의 3단계 절차를 거친다. 콘텐츠 중 83%는 이용자에게 노출되기 전에 머신러닝 기술로 자동 차단된다.

머신러닝이 감지하기 어려운 콘텐츠는 전문 심사 담당자가 다시 한번 가이드라인을 위반하지 않는지 24시간 검증한다. 수 만명의 전문 심사역은 현지 문화나 관습, 법률 위반 맥락도 고려한다.

예컨대 심사역은 한국과 이슬람 국가에서 허용된 노출의 수위가 다르다는 점 등을 고려해 콘텐츠를 검토한다. 교육적 목적이나 문화적 관행과 같은 예외적인 문화 상황을 살펴보며 예외를 허용하기도 한다.

지난해 4분기 기준 틱톡은 약 1억5300만여 건의 동영상을 삭제했다. 신고를 받기 전에 틱톡이 내부적으로 삭제를 한 선제적 삭제 비율은 98.5%에 달한다. 24시간 이내에 콘텐츠를 삭제한 비율은 90.8%, 이용자가 콘텐츠를 보기 전에 삭제한 비율은 83.2%로 집계됐다. 한국의 경우 지난해 4분기 기준 동영상 삭제 상위 50개국에는 포함되지 않았다.

싱가포르에 위치한 틱톡 투명성 및 책임 센터(TAC) 내 콘텐츠 모니터링 체험 존

최근 선거와 딥페이크 및 가짜뉴스 이슈가 맞물리면서, 생성형 AI 정치 콘텐츠에 대해서는 라벨 여부와 관계없이 삭제 조치한다. 중립 원칙을 강조하기 위해 특정 정치 세력을 지지하거나 금전 모금 콘텐츠는 허용하지 않는다.정치 자금 모금이 허용되면 사용자 간 상호작용에 금전적인 요소가 영향을 미칠 수 있기 때문이다.

지난해에는 전 세계적으로 선거가 많은 해였다는 점을 고려, 커뮤니티 가이드라인 업데이트도 진행했다. 아울러 60개 이상의 언어를 지원하는 전 세계 20여 개의 팩트 체크 기관과 협력해 허위 정보 여부를 판단한다.

청소년 보호 정책도 강화 중이다. 청소년 이용자에게는 계정 비공개 설정, DM 제한, 시청 시간 설정(기본 60분) 등 다양한 보호 기능을 제공한다.

추천 알고리즘에는 다양성을 담기 위해 노력 중이다. 틱톡은 이용자에게 익숙한 콘텐츠 60%, 새로운 시각의 콘텐츠 40%를 혼합 제공하는 방식으로 필터버블을 방지한다. 반복 노출될 경우 정신 건강에 영향을 줄 수 있는 다이어트 등 민감 주제는 '스톱갭(Stop-gap)' 기술로 차단한다.

틱톡 관계자는 “틱톡은 콘텐츠 심사에 많은 노력을 기울이고 있으며 이를 틱톡 투명성과 책임센터를 통해 보여드리고 있다”며 “앞으로도 안전한 플랫폼 환경을 조성하기 위해 투자와 연구, 협업을 지속하고 더 나은 솔루션을 찾기 위해 끊임없이 고민하겠다”고 밝혔다.

13일 싱가포르에 위치한 틱톡 투명성 및 책임 센터(TAC)에서 관계자가 동영상 추천 알고리즘에 대해 설명 중이다.

싱가포르=손지혜기자

이 기사의 카테고리는 언론사의 분류를 따릅니다.