76개국 슈퍼 선거의 해…‘딥페이크’ 민주주의에 치명상 입힐라

트럼프 전 미국 대통령이 자신을 체포하려는 경찰로부터 도망가는 모습을 담은 인공지능으로 만든 가짜 사진. 엑스(X·전 트위터) 캡처

2024년은 세계 76개국에서 선거가 치러지는 ‘슈퍼 선거의 해’다. 이 중 세계의 관심이 집중된 미국 대선은 인공지능을 활용한 딥페이크가 본격 동원되는 사상 최초의 선거가 될 가능성이 크다. 딥페이크를 활용하면 유권자의 관심을 높이고 홍보 비용을 줄일 수 있어 효율성이 커진다. 하지만, 정치 양극화와 혐오에 편승해 네거티브 확산 및 선거 조작으로 이어질 수 있어 우려가 제기된다.

■ 딥페이크와 선거 조작

지난해 10월30일 바이든 미국 대통령은 인공지능 개발을 규제하는 행정명령에 서명했다. 인공지능이 만들어낸 콘텐츠에 ‘AI 사용’이라는 표시를 하고, 콘텐츠 출처를 확인하는 기술 표준도 마련하도록 지시했다. 대선을 앞두고 생성형 인공지능으로 제작된 딥페이크를 통해 허위정보가 걷잡을 수 없이 확산할 수 있다는 우려도 배경이다. 바이든 대통령은 자신이 서점에서 치매 관련 책을 고르는 것처럼 조작된 영상 등을 보고 큰 충격을 받은 것으로 전해진다. 인공지능이 인류에게 혜택을 줄지, 재앙으로 이어질지는 의견이 엇갈리는 미래의 일이지만, 선거와 정치에 미칠 영향은 당장 벌어질 현실이다.

지난해 5월, 튀르키예 대선에서는 투표 직전 ‘테러 집단이 야당 후보를 지지한다’는 딥페이크 영상이 퍼졌다. 조작된 영상이 집권당 승리에 결정적 영향을 줬다는 게 일반적 평가다. 지난해 9월 슬로바키아 총선에서도 비슷한 일이 일어났다. 투표 이틀 전, 친미 성향의 야당 대표가 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”고 말한 음성파일이 공개되었다. 곧 가짜로 판명되었지만, 집권당 승리에 큰 영향을 미친 것으로 알려졌다. 혐오를 부추기는 네거티브 선동과 허위정보가 딥페이크라는 첨단 기술과 만나 사실상 선거 결과를 조작한 셈이다.

미국 대선에서도 이미 조작된 영상을 이용한 선거운동이 활개를 치고 있다. 미국 공화당전국위원회가 지난해 5월 공개한 선거 광고에는, 미군이 중무장한 채 샌프란시스코 거리를 순찰하는 장면, 이민자들이 남부 국경을 점령한 장면 등이 나온다. 조작된 가짜 이미지들을 통해 유권자들은 바이든 행정부에서 일어나는 디스토피아를 현실처럼 느낄 수 있다.

통상 선거에서 정당이나 후보자들은 상대를 깎아내리고 부정적 측면을 강조하는 네거티브 유혹에 시달린다. 정책이나 비전 등을 내세우는 방법보다 손쉽게 표를 얻을 수 있다고 여겨서다. 네거티브 전략이 허위정보를 담은 딥페이크를 타고 확산할 경우 기존 선거 운동 방식은 무용지물이 될 수 있다.

2021년 1월6일 미국 대통령선거 결과에 불복한 트럼프 지지자들이 국회의사당 안에 난입해 깃발을 흔들고 있다. 워싱턴/EPA 연합뉴스

■ 정치불신과 민주주의 위기

2016년과 2020년 미국 대선은 ‘소셜미디어 선거’로 통한다. 허위정보가 소셜미디어를 통해 확산하면서 선거 결과에도 큰 영향을 미쳤다. 미국 인터넷 뉴스 ‘버즈피드’에 따르면 2016년 대선에서 인기를 끌었던 가짜뉴스들은 소셜미디어에서 주요 언론이 생산한 기사보다 더 급속히 확산했고 파급력도 컸다.

이제 인공지능을 활용하면 사람 기자 없이도 ‘뉴스봇’을 통해 허위정보나 가짜기사를 놀라운 속도로 쏟아낼 수 있다. 대량 생산된 가짜뉴스, 허위정보와 혐오를 담은 딥페이크가 소셜미디어를 타고 확산하면 진짜와 가짜의 구분 자체가 흐려진다. 무엇이든지 가짜일 수 있다고 의심하게 되면, 설령 진실이라도 받아들이기 불편한 내용을 ‘가짜뉴스’라고 치부해 거부하기 쉽다. 신뢰가 무너진 곳에서 민주주의 운명도 위태롭게 된다.

전문가들은 언론과 정당에 대한 불신이 높은 나라일수록 딥페이크가 치명적 영향을 줄 수 있다고 말한다. 딥페이크로 조작된 ‘그럴듯한’ 가짜정보를 선택적으로 받아들여 극단화된 의견에 갇힐 경우, 정치 양극화는 더 악화할 수 있다. 또한 패배 진영은 불리한 이미지나 영상이 조작되었다고 주장하며 선거 결과에 불복하고 폭력 사태를 일으킬 수도 있다. 2020년 대선에서 트럼트 전 대통령이 선거에 불복하고 지지자들이 의회를 점거한 것에서도 확인된다.

■ 딥페이크 규제

한국도 지난 대선에서 ‘AI 윤석열’, ‘AI 이재명’ 등 딥페이크 영상이 등장해 관심을 끌었다. 하지만 이번 총선부터는 투표일 90일 이전부터 딥페이크를 이용한 선거운동이 전면 금지된다. 미국의 경우 지난달 30일 미국 시민단체 ‘퍼블릭 시티즌’에 따르면, 선거와 관련해 딥페이크 규제법이 마련된 곳은 텍사스·미시간·워싱턴·미네소타·일리노이 5개 주뿐이다. 연방 차원의 규제는 아직 확정된 것이 없다.

규제 조치가 도입된다 해도 투표 직전 후보자를 비판하거나 공격하는 딥페이크가 등장해 선거 판도를 흔들 가능성은 여전히 남아 있다. 가령 바이든 대통령의 실격 사유를 암시하는 딥페이크가 투표일 직전에 공개될 경우 박빙의 선거에 치명적 영향을 줄 수 있다고 많은 전문가들은 우려한다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr

▶▶한겨레의 벗이 되어주세요 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다