딥페이크 디지털 성범죄 근절 나선 유튜브...딥페이크 '호들갑' 발언 유튜버 수익 정지

[이성우 기자]

딥페이크 디지털 성범죄가 심각한 사회 문제로 떠오른 가운데, 유튜브가 딥페크로 불안에 떠는 여성들을 향해 "호들갑을 떤다"고 막말한 유튜버 '뻑가'의 수익 창출 활동을 정지시켰다. 이처럼 타인을 괴롭히는 콘텐츠를 규제하는 유튜브는 인적 검토자와 머신러닝을 통해 디지털 성범죄도 강력하게 규제해 이를 근절하기 위해 힘 쓰고 있다.

30일 유튜브는 뻑가 유튜브 채널의 수익 창출을 중단했다. 더불어 텔레그램 딥페이크 디지털 성범죄 사태를 언급해 문제가 된 '중고대학생' 동영상도 삭제 조치됐다. 유튜브는 뻑가 채널에서 올린 딥페이크 관련 영상이 특정 개인을 타겟하는 내용을 포함해 유튜브의 괴롭힘 정책을 위반한다고 판단해 삭제조치 했다고 설명했다.

또 유튜브는 해당 크리에이터의 플랫폼 안팎에서의 해로운 행동이 전체 커뮤니티에 해를 끼친다고 판단해 수익화 정지 조치를 추가적으로 진행했다. 뻑가 채널의 유튜브 파트너 프로그램 참여를 정지시켜 수익을 창출할 수 없게 한 것이다.

뿐만 아니라 유튜브는 디지털 성범죄 근절을 위해 노력하고 있다. 유튜브 커뮤니티 가이드는 원치 않는 성적 대상화 또는 합의되지 않은 성적 행위 등의 콘텐츠를 플랫폼에서 엄격하게 금지하고 있으며, 인적 검토자와 머신러닝을 함께 활용해 검토하고, 정책 위반 콘텐츠를 삭제하고 있다.

구체적으로 이용자를 스토킹하거나 협박하려는 행위 비하, 대상화, 성적 대상화를 목적으로 식별 가능한 개인의 가슴, 엉덩이, 성기 부위를 확대하거나 장기간 초점을 맞추거나 강조하는 행위 합의되지 않은 성행위, 원치 않는 성적 대상화 등 개인을 노골적으로 성적 대상화하거나 비하하는 모든 내용이 포함된 콘텐츠 합의되지 않은 성적 이미지 혹은 이러한 이미지를 배포하는 방법을 보여주는 콘텐츠 당사자의 동의 없이 식별 가능한 개인이 살해되거나, 심각한 부상을 입거나, 노골적인 성행위를 하는 것을 묘사하는 콘텐츠를 금지하고 있다.

뿐만 아니라 텔레그램과 정반대로 유튜브는 정부 기관과의 협력 및 협조에도 적극적이다. 유튜브는 안전하고 책임감 있는 온라인 환경을 유지하기 위해 방송통신심의위원회를 포함한 관련 이해 관계자와 지속적으로 소통 및 협력하고 있다.

유튜브는 적절한 법적 절차를 통해 접수된 정부의 삭제 요청을 검토하고, 커뮤니티 가이드에 따라 콘텐츠에 위반 사항이 있는지 확인해 적절한 경우, 철저한 검토를 거쳐 현지 법률, 서비스 약관 및 커뮤니티 가이드를 바탕으로 콘텐츠를 제한하거나 삭제한다. 또 정부의 모든 삭제 요청은 기록되며, 투명성 보고서를 통해 공개된다.

이밖에도 지난해 유튜브는 생성형 인공지능(AI)을 포함해 변형되었거나 합성된 미디어로 만들어진 사실적인 콘텐츠인 경우, 크리에이터가 이를 시청자에게 알릴 수 있는 도구도 공개했다.

유튜브 관계자는 "유튜브는 플랫폼상에서 발생할 수 있는 디지털 성범죄를 근절하기 위해 항상 노력하고 있으며, 원치 않는 성적 대상화 또는 합의되지 않은 성적 행위를 포함한 콘텐츠를 금지하는 강력한 정책을 인적 검토자와 머신 러닝을 함께 활용해 시행하고 있다"며 "또 유튜브는 동의 없이 개인의 얼굴이나 음성을 활용해 디지털 콘텐츠를 생성하는 등 새로운 AI 기술이 커뮤니티에 미칠 수 있는 영향에 대한 우려를 해소하기 위해 이용자가 자신을 사실적으로 묘사한 변형되거나 합성된 콘텐츠를 플랫폼에서 삭제 요청할 수 있도록 개인 정보 침해 신고 절차를 업데이트했다"고 전했다.

이성우 기자 voiceactor@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>