유해 콘텐츠 논란에 팔 걷은 틱톡…가이드라인 개정안 살펴보니

[디지털데일리 이나연 기자] 최근 미국뿐 아니라 캐나다,유럽,일본 정부 기관이 이용자 개인정보 수집 의혹으로 '틱톡 금지령'을 내리기 시작했다. 이런 전방위적 규제에 더해 전 세계 10대들 사이에서 유행한 '기절 챌린지' 등 틱톡 콘텐츠 유해성 논란까지 도마 위에 오르고 있다. 부정적 인식이 확산하는 상황을 의식한 듯, 틱톡이 커뮤니티 가이드라인 손보기에 나섰다. 이를 통해 표현의 자유와 인권 침해 등 위험성 예방 간 균형을 잡겠다는 목표다.

다음달 21일(현지시간)부터 효력이 발생하는 새로운 커뮤니티 가이드라인은 ▲딥페이크(deepfake,합성 조작) 콘텐츠 심사 강화 ▲증오 발언 보호 대상자 확대 ▲정부,정치인,정당의 틱톡 계정 접근방식 보호 확대를 골자로 한다.

관련해 지난 16일 줄리 드 바이엔쿠트 틱톡 상품 정책 글로벌 총괄과 저스틴 얼리치 이슈 정책 및 파트너십 글로벌 총괄은 전 세계 매체를 대상으로 온라인 미디어 간담회를 열었다.

◆강화된 틱톡 가이드라인…이용자 보호에 방점=틱톡은 커뮤니티 가이드라인을 보완하기 위해 세계 전역에 위치한 100개 이상 기관,커뮤니티 구성원과 소통했다. 이에 인공지능(AI) 기술을 통해 생성하거나 변경한 콘텐츠인 합성 미디어 관리 방식에 대한 규정을 개정했다.

틱톡 플랫폼에 올라온 모든 영상은 일차적으로 자동화된 심사 기술에 의해 가이드라인 위반사항이 있는지 자동 검토된다. 이 과정에서 자동으로 영상이 삭제되거나, 콘텐츠 심사를 담당하는 팀에게 전달돼 다음 단계 심사를 거치게 된다. 틱톡 사용자 또한 가이드라인 위반이 의심되는 콘텐츠를 신고할 수 있다. 콘텐츠 삭제를 고지받은 계정 소유자가 이에 동의하지 않을 경우, 이의 제기할 수 있다.

틱톡이 합성 미디어 제재에 특히 힘을 쏟는 이유는 틱톡 등 대부분 사회관계망서비스(SNS)에서 딥페이크를 악용한 음란물이 범람하고 있기 때문이다.

딥페이크란 동영상에서 타인 얼굴과 음성을 합성하는 기술을 말하는데, AI 기술과 접목돼 한층 정교해졌다. 주로 유명인을 대상으로 한 딥페이크 콘텐츠가 성행하면서 해당자들의 인격권 침해 논란도 심각한 사회적 문제로 대두됐다.

이어 틱톡은 플랫폼에서 벌어지는 증오 발언 및 증오 행동에 대한 보호 대상을 넓혔다. 특정 집단이 증오 표현 피해자가 될 수 있는 상황으로부터 안전한 환경을 구축하기 위해서다. 이를 어긴 콘텐츠와 계정 운영자는 콘텐츠 삭제 등 문제 수준에 상응하는 조치가 취해진다.

틱톡은 자칫 오용될 가능성을 우려해 해당자 기준을 상세히 공개하진 않았지만, 크게 ▲출신 계층(카스트) ▲민족 ▲출신 국가 ▲인종 ▲종교 ▲부족 ▲이민자 지위 ▲젠더 ▲젠더 정체성 ▲성별 ▲성적 지향 ▲장애 ▲심각한 질환 등을 들 수 있다. 정부,정치인,정당 계정에 대한 틱톡 접근방식을 포함, 시민,선거 공정성을 보호하기 위한 활동도 더 세분화할 전망이다.

현재 틱톡은 의도와 상관없이 선거 과정에서 검증된 잘못된 정보 게재를 금지,제거하고 있다. 주장이 검증되지 않은 콘텐츠가 추천피드에 노출되지 않도록 조치를 취하는 한편, 사실 확인이 필요해 검토 중인 콘텐츠도 일시적으로 추천피드에 노출되지 않도록 한다.

◆다음달부터 새 가이드라인 본격 적용…실효성 위한 후속조치도=틱톡은 크리에이터와 이용자, 관련 연구자가 이용 정책 항목을 한눈에 확인할 수 있도록 모든 규정과 기준을 커뮤니티 가이드라인으로 통합했다.

이번에 틱톡이 공개한 4가지 조정 방안은 ▲위반 콘텐츠 삭제 ▲성인 콘텐츠는 성인(만 18세 이상)만 볼 수 있도록 연령 제한 ▲전체 사용자에 적합하지 않은 콘텐츠는 추천피드에서 추천 금지 ▲사용자 경험을 관리할 수 있도록 정보 툴,자원 제공이다.

틱톡은 개정된 가이드라인이 안정적으로 정착할 수 있도록 향후 몇개월간 틱톡 콘텐츠 심사 담당자들을 추가 교육할 예정이다. 틱톡 규정을 위반하는 계정에 대한 조치 정보도 추가로 공유한다. 해당 내용엔 틱톡 규정을 의도적으로 우회하려고 생성한 다중 계정 사용을 허용하지 않는다는 점을 강조했다.

한편, 이날 틱톡은 개정된 커뮤니티 가이드라인을 공개하기에 앞서 틱톡 커뮤니티 원칙을 발표했다. 틱톡이 서비스를 운영, 관리감독하는 방식에 대해 이용자 신뢰를 높인다는 취지에서다. 커뮤니티 원칙은 틱톡이 콘텐츠를 심의하는 방식을 결정할 때 제공되는 지침으로 균형성과 존엄성, 공정성을 주축으로 한다.

틱톡은 '온라인에서 활동하는 모든 사람이 안전하다는 느낌을 받아야 한다'며 '틱톡 글로벌 커뮤니티를 안전하고 포용적이며 진정성 있는 플랫폼으로 유지하기 위해 지속 투자하겠다'고 말했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -