“셀럽 딥페이크 꼼짝마”...유튜브, AI복제 감지 도구 내놓는다

내년 초 시범 프로그램이 시작
얼굴 및 음성 보호 기술로 AI 콘텐츠 관리
AI 생성 콘텐츠 식별 기술로 권리 보호 강화
무단 접근 방지 및 창작자의 선택권 강화
창작자 중심의 안전한 AI 활용 환경 조성

6일 유튜브 공식 블로그에 따르면, ‘유사 음성 식별 기술’을 개발중이다. 개발상상도

유튜브가 인공지능(AI)를 활용한 딥페이크 방지에 나섰다. AI 시대를 맞아 ‘셀럽’의 얼굴과 목소리를 위조한 딥페이크 콘텐츠가 넘쳐나자 이를 탐지하는 도구를 내놓은 것이다.

6일 유튜브 공식 블로그에 따르면, ‘유사 음성 식별 기술’을 개발중이다. 아므자드 하니프(Amjad Hanif) 유튜브 창작자 제품 부사장은 “AI는 인간의 창의성을 증대시키는 도구로서 역할을 해야 한다”며 “AI를 통해 창작자들이 더욱 혁신적인 방식으로 자신을 표현할 수 있도록 돕겠다”고 밝혔다. 하니프 부사장은 AI 생성 콘텐츠가 창작자의 통제 아래 관리될 수 있도록 새로운 ‘유사 음성 식별 기술’을 개발 중이라고 발표했다. 해당 기술은 AI가 창작자의 목소리를 모방한 콘텐츠를 자동으로 감지하고 관리할 수 있게 해준다. 해당 기술은 내년 초 공식 적용된다.

아울러 유튜브는 창작자, 배우, 음악가, 운동선수 등 다양한 업계 인사들이 자신의 얼굴이 AI로 생성된 콘텐츠에서 사용될 때 이를 감지하고 관리할 수 있는 기술도 개발 중이라고 발표했다. 이와 함께 프라이버시 업데이트를 통해 AI 기술이 악용되는 것을 방지하는 도구를 마련하겠다고 강조했다.

또 AI 기업들이 유튜브 콘텐츠를 무단 학습시키는 행위도 금지한다. 유튜브는 그동안 플랫폼 내에 업로드된 콘텐츠를 머신러닝과 AI 애플리케이션을 통해 개선하는 데 사용해왔다. 하지만 다른 제3자가 창작자의 콘텐츠를 무단으로 스크랩(scrape)하는 행위에 대해서는 강력히 대응하고 있으며, 이를 막기 위한 시스템에 계속해서 투자하고 있다고 설명했다. 하니프 부사장은 “제3자가 창작자의 콘텐츠를 무단으로 사용하는 것은 서비스 약관 위반이며, 창작자들이 받는 가치를 훼손하는 행위”라고 경고했다.

이와 함께 유튜브는 창작자들이 제3자와 협업, AI 도구를 개발할 때 더 많은 선택권을 가질 수 있도록 새로운 방법을 개발 중이라고 밝혔다. 창작자들이 자신의 콘텐츠가 제3자에 의해 어떻게 사용될지 결정할 수 있는 도구를 제공할 예정이며, 이에 대한 자세한 내용은 연말에 추가 공개될 계획이다. 이어 하니프 부사장은 “유튜브는 초기부터 창작자와 기업이 번영할 수 있는 커뮤니티를 구축하는 데 중점을 두었다”며, AI 시대에도 이러한 방향성은 변하지 않을 것이라고 강조했다. AI가 가져올 미래의 창작 환경에서 책임감 있는 혁신을 촉진하는 것이 유튜브의 목표라고 밝혔다.

딥페이크 음악·스트리밍 조작으로 13억원 챙긴 남성 기소당해

현재 AI 업계의 관심은 AI 창작물에 대한 지식재산권 인정 여부다. 최근에는 곳곳에서 이에 대한 법적 다툼이 일고 있다. 이달 5일(현지시각) 미국 노스캐롤라이나의 한 남성은 인공지능(AI)을 이용해 수십만 곡의 가짜 음악을 만들어 가짜 밴드로 위장한 것이 밝혀졌다. 또 이를 스트리밍 서비스에 올려, 가짜 청중들에게 감상하게 했다고 미국 검찰이 주장했다.

피의자인 52세 마이클 스미스(Michael Smith)는 7년간 아마존 뮤직, 애플 뮤직, 스포티파이 등 디지털 스트리밍 플랫폼에서 로열티를 부당하게 챙겼다고 밝혔다. 스미스는 자신이 직접 AI를 통해 제작한 가짜 음악을 수십억 번 재생했고, 1000만 달러에 달하는 수익을 얻었다.

다미안 윌리엄스 뉴욕 남부지검 검사는 “스미스는 실제로 스트리밍된 음악의 권리자인 뮤지션, 작곡가들이 받아야 할 로열티를 가로챘다”고 말했다.

그가 동원한 수법은 △AI 음악 채널 생성 △AI 음악 콘텐츠 제작 △ 수천개에 달하는 가짜 계정을 활용해 프로그램을 통한 음악 자동 반복 듣기다. 검찰은 그가 매일 3307달러, 연간 120만 달러의 로열티를 벌어들일 수 있다고 추산했다. 특히 2019년 6월부터 스미스는 월 11만 달러의 수익을 올렸으며, 올 2월에는 40억 회 스트리밍과 1200만 달러의 로열티 수익을 벌었다.

이번 기소는 스트리밍 조작 기법을 이용한 최초의 기소 사례라는 것이 뉴욕타임스의 판단이다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]