"이건 AI가 만든 콘텐츠"…틱톡, 식별 라벨 자동 붙인다

콘텐츠 맥락 파악 위해 투명성에 적극 투자

타플랫폼 생성 AI 콘텐츠에도 자동 부착

[이데일리 한광범 기자] 글로벌 숏폼 동영상 플랫폼 틱톡(TikTok)이 10일 타사 플랫폼에서 제작된 AI 생성 콘텐츠(AIGC)에도 자동으로 ‘AI 생성’ 라벨을 붙이는 정책을 시행한다.

이를 위해 틱톡은 C2PA(Coalition for Content Provenance and Authenticity)와 콘텐츠의 투명성을 선도하는 정책을 구현하는 파트너십을 체결했다. 이와 함께 틱톡 커뮤니티가 AI 생성 콘텐츠와 허위 정보를 구분할 수 있도록 전문가의 지침을 기반으로 개발한 새로운 미디어 리터러시 교육 자료도 제공한다.

AI는 새로운 창작의 도구가 되콘텐츠가 AI를 이용해 제작된 사실을 명시하지 않은 경우 시청자들에게 혼란을 야기하거나 시청자를 호도할 우려가 있다. 이때 ‘AI 생성’ 라벨은 시청자가 콘텐츠의 맥락을 정확히 파악하는 데 도움을 준다.

틱톡은 콘텐츠의 투명성을 보장하기 위해 틱톡 AI(TikTok AI) 효과를 이용해 제작한 AI 생성 콘텐츠에 ‘AI 생성’ 라벨을 부착하고 있으며, 지난 1년간 크리에이터에게도 사실적인 AI 생성 콘텐츠에 라벨을 붙이도록 독려해왔다. 틱톡은 콘텐츠에 라벨을 쉽게 붙일 수 있도록 최초의 라벨 부착 툴을 개발한 바 있으며, 지난 가을부터 3700만명 이상의 크리에이터가 해당 툴을 사용해 콘텐츠의 투명성을 높이기 위해 노력하고 있다.

틱톡, AI의 진화에 맞추어 콘텐츠 투명성에 적극 투자

틱톡은 C2PA와 파트너십을 통해 C2PA의 기술인 ‘콘텐츠 인증(Content Credential)’을 구현하는 첫 번째 영상 플랫폼이 되었다. 해당 기능을 도입해 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 ‘AI 생성’ 라벨을 자동으로 붙일 수 있도록 확대 적용하는 것이다.

콘텐츠 인증을 사용하면 ‘메타데이터’가 콘텐츠에 연결되고 틱톡은 AI 생성 콘텐츠를 즉각 인식해 라벨을 붙이는 데 이 메타데이터를 사용할 수 있다. 해당 기능은 10일부터 이미지와 비디오 콘텐츠에 적용되며 수주 내에 오디오 전용 콘텐츠에도 적용될 예정이다.

콘텐츠 인증 기술은 향후 수개월 내에 틱톡 콘텐츠에 연결되며 콘텐츠를 다운로드 받아도 해당 콘텐츠에 남게 된다. 따라서 누구나 C2PA의 검증(Verify) 툴을 사용해 틱톡에서 제작된 AI 생성 콘텐츠를 식별하고, 콘텐츠가 언제, 어디서, 어떻게 제작되거나 편집됐는지 파악하는 데 도움을 받을 수 있다. 타플랫폼도 콘텐츠 인증 기술을 채택하면 AI 생성 콘텐츠에 자동으로 라벨을 부착할 수 있게 된다.

틱톡은 플랫폼 업계가 콘텐츠 인증 기술을 더 적극적으로 도입할 수 있도록 어도비(Adobe)가 주도하는 CAI(Content Authenticity Initiative, 콘텐츠 진위 이니셔티브)에도 참여한다. 틱톡은 콘텐츠 인증을 시행하는 최초의 영상 공유 플랫폼이다. 틱톡이 AI생성 콘텐츠를 식별하고 라벨을 부착하기 위해서는 콘텐츠 인증 메타데이터가 필요하기 때문에 초기에는 AI 생성 콘텐츠에 라벨을 붙이는 작업이 다소 점진적으로 진행될 수 있지만, 다른 플랫폼들이 함께 콘텐츠 인증을 도입하면 틱톡이 더 많은 콘텐츠에 라벨을 부착할 수 있게 될 것으로 보고 있다.

콘텐츠 인증 기술 도입 촉진

어도비 법률고문 겸 최고 신뢰 책임자인 다나 라오(Dana Rao)는 “틱톡의 거대한 글로벌 크리에이터 및 사용자 커뮤니티와 함께 C2PA와 CAI를 통해 틱톡의 플랫폼 투명성과 신뢰성을 제고하는 여정을 시작해 매우 기쁘다“며 ”어떤 디지털 콘텐츠라도 조작이 가능해진 시대에 대중이 진실을 가릴 수 있는 방법을 제공하는 것은 꼭 필요한 일이며, 이 정책은 그 결과에 다다르기 위한 결정적인 한 걸음“이라고 밝혔다.

많은 전문가들은 책임 있는 콘텐츠 제작을 지원하는 방법으로 AIGC 라벨 붙이기를 권장하지만, 시청자가 이런 라벨의 의미를 제대로 파악하지 못하면 오히려 혼란을 야기할 수 있다고 경고한 바 있다. 틱톡은 틱톡 커뮤니티가 AI생성 콘텐츠와 허위 정보를 식별하고 비판적인 사고에 도움이 될 수 있는 미디어 리터러시 캠페인을 마련하기 위해 전문가와 협력해왔다.

틱톡 미국 내 미디어 리터러시 파트너사인 미디어와이즈(MediaWise)의 이사 알렉스 마하데반(Alex Mahadevan)은 “미디어와이즈의 청소년 팩트체크 네트워크(Teen Fact-Checking Network)는 2019년부터 틱톡에 획기적인 미디어 리터러시 영상을 게재하여 시청자층을 구축해왔다”며 “5년이 지난 지금 미디어와이즈는 더 많은 사람들이 온라인에서 사실과 허구를 구분할 수 있는 능력을 갖추게 됐다”고 전했다.