尹 대통령도 못 피했다…세계 선거판 흔드는 '딥페이크'

딥페이크와의 전쟁…美바이든·트럼프도

튀르키예 대선 끝난 뒤에야 가짜 판명돼

4·10 총선을 앞두고 딥페이크(Deepfake·실제와 비슷하게 조작된 디지털 시각물)가 심각한 민주주의 위협 요소로 떠오르고 있다. 생성형 인공지능(AI)을 이용하면 누구나 후보자의 이미지, 동영상, 음성 등을 손쉽게 조작할 수 있기 때문에 여론 조작에 악용될 우려가 있다.

최근 윤석열 대통령은 딥페이크의 표적이 됐다. 윤 대통령의 외모와 목소리를 입힌 조작 영상이 사회관계망서비스(SNS)에서 확산한 것이다. 해당 영상에서 가짜 윤 대통령은 "무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다"며 "저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다"라고 말한다.

해당 영상은 23일 현재 삭제된 상태다. 이날 방송통신심의위원회는 긴급통신심의소위원회를 열어 전날 경찰이 삭제·차단을 요청해온 윤 대통령 관련 짜깁기 영상에 대한 차단 조치를 만장일치로 의결했다. 방심위는 이를 대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물로 판단했다.

최근 사회관계망서비스(SNS)에서 확산된 윤석열 대통령 합성 딥페이크 영상. 현재는 방송통신심의위원회에 의해 차단됐다. [이미지출처=틱톡 캡처]

윤 대통령의 딥페이크 영상은 2020년 6월 지방선거를 앞둔 당시에도 있었다. 윤 대통령이 당시 박영일 국민의힘 남해군수 후보를 지지하는 가짜 영상이 소셜미디어를 통해 확산한 것이다.

중앙선거관리위원회에 따르면 지난달 29일부터 이달 16일까지 19일간 유권자를 상대로 딥페이크를 이용해 선거 운동을 하는 등 공직선거법 위반 의심 게시물은 129건에 달했다. 딥페이크 영상은 선거에 부정적인 영향을 미칠 수 있다. AI로 만들어진 결과물이 과거에는 조악한 수준이었지만 현재는 관련 기술이 빠르게 발전하면서 진위를 쉽게 구분하기 어려운 수준에까지 이르렀다.

지난해 3월 도널드 트럼프 전 미국 대통령이 경찰에 연행되는 가짜 이미지가 확산됐다. [이미지출처=X 캡처]

실제로 세계적으로도 딥페이크 악용 사례가 빈번하다.

미국 뉴햄프셔주 예비선거를 앞뒀던 지난달 23일 유권자들에게는 조 바이든 미국 대통령의 목소리를 흉내 낸 딥페이크 전화가 걸려 왔다. 통화에서 가짜 바이든은 "여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다"며 투표하지 말라고 해 유권자들에게 혼란을 줬다. 그보다 앞선 지난해 3월에는 도널드 트럼프 전 미국 대통령이 경찰에 연행되는 가짜 이미지가 퍼졌다.

지난해 5월 튀르키예 대선에서는 선거가 끝난 뒤에야 가짜 영상임이 드러나기도 했다. 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 영상이 확산했는데, 선거가 끝난 이후 AI로 조작한 영상임이 밝혀진 것이다. 당시 영상은 클르츠다로을루 후보의 패배 주요 원인으로 지목되기도 했다.



박현주 기자 phj0325@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>