유튜브 CEO “올해 최우선 순위는 ‘AI 슬롭’과의 전쟁”

유튜브 로고/AP 연합뉴스

닐 모한 유튜브 최고경영자(CEO)가 올해 유튜브 운영의 최우선 순위는 “인공지능(AI) 슬롭과 맞서 싸우는 것”이라고 밝혔다. AI가 생성한 저품질 콘텐츠를 뜻하는 AI 슬롭이 늘어나면서 대책 마련에 나선 것이다.

21일(현지 시각) 모한 CEO는 “무엇이 진짜이고 무엇이 AI가 생성한 것인지 구분하기가 점점 더 어려워지고 있다”며 “창의성과 기술의 경계가 모호해지는 ‘변곡점’에 있다”고 했다. 그러면서 AI 슬롭 관리를 올해 최우선 순위로 생각하고 있다고 밝혔다. 특히 유명인의 모습을 AI 기능을 활용해 무단 합성하는 ‘딥페이크’ 영상을 구분해 관리하는 것이 매우 중요하다며 “저품질의 반복적인 콘텐츠 확산 방지를 위해 기존 시스템을 적극적으로 강화하고 있다”고 했다.

구체적으로 유튜브는 최근 크리에이터의 얼굴이 무단 사용되는 딥페이크 탐지 기능을 도입했다. 또 유튜브는 AI 제품으로 제작된 영상에 명확한 표시를 하고 있으며, 제작자가 수정된 콘텐츠를 제작했는지 여부를 공개하고 있다. 이 외에도 유튜브 시스템은 가이드라인을 위반하는 ”유해한 합성 미디어”를 제거한다고 밝혔다.

AI 기능이 발달하면서 최근 AI 슬롭도 크게 늘고 있다. 특히 우리나라는 전 세계에서 AI 슬롭을 가장 많이 보는 국가다. 미국 영상 플랫폼 카프윙이 지난해 11월 국가별 인기 유튜브 채널 상위 100개를 분석한 결과, 한국 기반 AI 슬롭 채널의 누적 조회 수는 84억5000만회로 조사 대상 국가 중 가장 많았다. 이는 2위인 파키스탄(53억회)과 3위인 미국(34억회)을 크게 웃도는 수치다.

유튜브와 같은 콘텐츠 플랫폼이나 소셜미디어(SNS)는 최근 AI를 활용한 콘텐츠 제작 기능을 확대하는 동시에 ‘AI슬롭’ 관리에 나섰다. 틱톡은 AI 생성 콘텐츠를 따로 표시할 것을 요구하고 있고, AI 음성, 딥페이크 사용 시 사용자에게 반드시 고지하도록 하고 있다. 메타는 인스타그램과 페이스북에 2024년부터 AI로 만든 콘텐츠를 자동 인식하는 시스템을 도입했다. 또 자체 알고리즘도 강화해 AI 자동 생성 콘텐츠나 딥페이크 콘텐츠, 출처가 불분명한 저품질 콘텐츠를 솎아내도록 하고 있다.

[실리콘밸리=강다은 특파원]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -