딥페이크 규제 나선 中…'가짜 콘텐츠 단속' 美·EU는 어떻게

[머니투데이 김하늬 기자] [MT리포트-신종범죄의 습격 1부: 딥보이스, AI 잡는 AI]⑥

범죄 등에 악용되는 딥페이크 기술이 전세계적으로 새로운 유형의 정치·경제·사회 문제로 떠오르면서 대책 논의가 시작된 가운데 중국이 주요국 가운데 처음으로 기술 규제에 나섰다.

11일 AFP 등 외신에 따르면 중국 중국 국가사이버정보판공실(CAC)이 지난 10일부터 '인터넷 정보 서비스 딥 합성 관리 규정'을 시행했다. 인공지능(AI) 기술을 이용해 사진이나 영상, 오디오를 합성하는 딥페이크 기술로 허위 정보를 퍼뜨리거나 범죄 등에 이용하는 것을 막겠다는 목적이다.

WSJ에 따르면 이 규정은 인공지능이 만들어낸 콘텐츠 사용을 금지한다. 딥페이크 기술을 사용해 콘텐츠를 만들 때는 '딥페이크 기술이 사용됐다는 사실을 명시해야 하고 원본을 추적할 수 있도록 워터마크(디지털 표시)를 넣도록 했다.

딥페이크 기술로 누군가의 이미지나 목소리를 합성해 편집하려고 할 때는 당사자 동의를 구해야 한다. 언론 보도에서 딥페이크 기술을 사용할 때는 정부가 승인한 매체 원본만 활용할 수 있게 했다.

미국을 중심으로 서구에서는 중국의 이번 규제가 다분히 정치적인 의도가 깔린 조치라는 분석이 나온다. AFP는 "중국이 공산당에 잠재적 위협으로 간주되는 기술을 신속하게 규제해왔고 이번 조치도 그 일환"이라고 지적했다.

미국에서는 딥페이크 규제 시도가 언론 자유를 침해할 수 있다는 우려 때문에 좀처럼 진전되지 않고 있다. 아마존, 마이크로소프트, IBM은 개인정보보호를 이유로 2020년 개발한 AI 안면인식 기술을 미국 경찰당국에 제공하는 것을 중단하거나 철회하겠다고 발표했다.

유럽연합(EU)에서도 플랫폼 기업들에 딥페이크 기술의 허위 정보 확산을 완화하는 방법을 찾도록 권고할 뿐 기술 자체를 금지하지는 않는다.

김하늬 기자 honey@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>