[단독] “못보던 꼬리표 달렸네”…구글, AI 생성콘텐츠에 붙인다는데

구글, 18일부터 ‘생성·합성 여부’ 라벨링
스마트폰 앱 이어 데스크톱·PC버전에 적용

구글이 유튜브에서 적용하는 AI 생성 콘텐츠 라벨링 예시

구글이 유튜브에 인공지능(AI)를 이용해 만들어진 콘텐츠에 ‘생성·합성 여부’를 표시하는 라벨링을 적용하기 시작했다.

19일 정보기술(IT)업계 등에 따르면 구글은 18일(현지시간)부터 유튜브 시청자가 합성된 콘텐츠를 시청할 때 이를 알려주는 업데이트를 실행했다. 이번 업데이트는 전 세계를 대상으로 적용(롤아웃)을 시작했다. 이에 따라 유튜브에서 콘텐츠 업로드에 변형이나 합성된 내용이 포함됐는지 여부를 표시하는 옵션이 단계적으로 적용된다. 수주내로 스마트폰 유튜브 앱을 시작으로 데스크톱, PC 버전 유튜브에 라벨이 적용될 것으로 전망된다.

유튜브가 적용한 라벨링은 AI를 이용해 일어나지 않은 사건을 사실적으로 묘사하는 영상이나, 누군가 하지 않은 말이나 행동을 보여주는 콘텐츠 등이 해당된다. 구체적으로 △실제 인물의 모습을 사용하는 경우 △실제 사건이나 장소의 영상 변경 △사실적인 장면 생성 등의 경우에는 반드시 딥페이크 여부 공개가 필요하다.

다만 AI로 생성·합성된 미디어가 누구나 인지할 수 있는 수준으로 비현실적이거나 변경 사항이 중요하지 않은 경우에는 크리에이터에게 공개를 요구하지 않는다.

유튜브가 선제적으로 AI콘텐츠에 대한 라벨링을 도입한 것은 최근 전 세계적으로 화두가 된 전쟁·정치 관련 딥페이크 콘텐츠 논란에 대응한 것으로 풀이된다. 민주주의를 위협하는 딥페이크 부작용을 막아야 한다는 국제 여론이 높아지는 가운데 딥페이크 식별과 탐지 기술 개발에 속도가 붙고 있다.

유튜브 측은 혐오감을 불러일으킬 수 있는 변형·콘텐츠의 경우엔 삭제 조치에 나설 방침이다. 딥페이크로 피해를 본 당사자들이 신고를 한 경우 심사를 통해 삭제 조치가 이뤄진다. 유튜브는 변형·합성 여부를 알리지 않는 이용자에 대해선 콘텐츠 삭제는 물론 유튜브 파트너 프로그램 정지를 통한 수익창출 차단 등의 페널티를 부여할 방침을 세워둔 것으로 알려졌다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]