AI가 정치판도 뒤흔든다…美 대선 앞두고 'AI 가짜 사진' 극성

파우치 껴안는 트럼프?…AI 합성물로 판명

공화당도 딥페이크 영상으로 바이든 공격

론 디샌티스 캠프에서 지난 5일(현지시간) 트위터에 게재한 영상. 도널드 트럼프 전 대통령이 코로나19 방역을 총괄한 앤서니 파우치 전 국립알레르기·전염병연구소장(NIAID)을 껴안는 사진은 인공지능(AI)이 합성한 가짜인 것으로 드러났다. 2023.6.5.

(서울=뉴스1) 김성식 기자 = 내년 미국 대선에 출사표를 던진 공화당 소속 론 디샌티스 플로리다 주지사가 같은 당 경선 주자인 도널드 트럼프 전 대통령을 공격하는 데 생성형 인공지능(AI) 기술로 합성한 가짜 사진을 사용한 것으로 확인되자 파문이 확산하고 있다.

뉴욕타임스(NYT)에 따르면 문제의 사진은 지난 5일(현지시간) 디샌티스 후보 캠프에서 운영하는 공식 트위터 계정에 트럼프 전 대통령을 비난하는 영상과 함께 처음으로 게재됐다. 사진에서 트럼프 전 대통령은 백악관 브리핑룸에서 미국의 코로나19 방역 대응을 총괄했던 앤서니 파우치 전 국립알레르기·전염병연구소장(NIAID)을 껴안고 입맞춤하는 듯한 모습이 담겼다.

영상은 비슷한 분위기의 사진 6장을 보여준 뒤 "트럼프는 TV 방송에서 해고를 남발한 것으로 유명했다"면서 "파우치에게는"이라고 반문했다. 사회적 거리두기 정책에 강한 반감을 가졌던 보수 유권자들을 겨냥해 왜 파우치를 해고하지 않았냐고 공격한 것이다.

디샌티스 주지사도 직접 나서 관련 의혹을 제기한 바 있다. 그는 지난 3월 폭스뉴스와의 인터뷰에서 진행자가 '트럼프 전 대통령과의 차이점'을 묻자 "내가 대통령이었다면 파우치 소장을 즉시 해고했을 것"이라며 "그는 코로나19 대응을 과신했고 미국 경제에 엄청난 피해를 줬다"고 주장했다.

그러나 AFP 통신이 지난 7일 디샌티스 캠프가 올린 사진들이 합성된 것으로 보인다고 보도했고 이후 여러 외신들이 이를 뒷받침하는 전문가들의 견해를 소개했다. 로이터 통신은 매튜 스탬 드렉셀대 컴퓨터공학과 교수의 견해를 인용해 6장의 사진 중 3장은 합성이라고 결론을 내렸다.

해니 패리드 UC버클리대 컴퓨터공학과 교수는 NYT와의 인터뷰에서 사진에 나온 트럼프 전 대통령의 머리카락과 귀 부분이 어색하고 배경에 자리한 백악관 로고와 성조기가 실제와 다르다는 점을 지적하며 해당 사진이 생성형 AI 기술을 활용해 만든 가짜일 가능성이 높다고 분석했다.

론 디샌티스 캠프 관계자가 8일(현지시간) 트위터에 도널드 트럼프 전 대통령이 게재한 디샌티스 비방 사진을 거론하며 "이 사진도 AI가 생성했다"며 디샌티스 캠프의 '트럼프-파우치 사진' 합성 의혹에 맞불을 놓았다. 2023.6.9.

결국 디샌티스 주지사 측도 해당 사진이 합성됐다는 점을 인정했다. 그러면서도 트럼프 전 대통령과 측근들이 유포한 디샌티스 비방 사진을 거론하며 "AI가 생성할 이미지일지도 모른다"며 맞불을 놨다. 해당 사진에는 무늬만 공화당원임을 뜻하는 '라이노(RINO)'와 발음이 비슷한 '라이노세로스'(rhinoceros·코뿔소)에 디샌티스 주지사가 올라탄 모습이 합성돼 있었다.

전문가들은 대선 열기가 고조될수록 이처럼 AI 기술로 특정 인물의 얼굴을 악의적으로 합성하는 이른바 '딥페이크(deepfake)' 편집물이 인터넷 공간에서 확산할 것이라고 경고했다. 패리드 교수는 "선거 캠프와 혼란을 조장하려는 이들이 가짜 이미지를 사용해 정치적 목적을 달성하려는 사례를 계속 보게 될 것 같다"고 우려했다.

딥페이크 탐지업체인 딥미디어에 따르면 올해 1월부터 3월까지 온라인에 게시된 영상 합성물은 지난해 같은 기간 대비 3배, 음성 합성물은 8배 증가한 것으로 집계됐다. 대선을 앞둔 올해 딥미디어는 약 50만개의 딥페이크가 사회관계망서비스(SNS)에서 기승을 부릴 것으로 전망했다.

공당에서조차 이미 딥페이크 편집물을 정치 공세에 활용하기도 했다. 지난 4월 조 바이든 대통령이 재선 도전을 공식 선언하자 공화당 전국위원회(RNC)는 바이든 2기 정부가 가져올 디스토피아를 보여주겠다면서 남부 국경 지역에 이민자가 몰려오고 중국 전투기가 대만을 폭격하는 영상을 공개했다.

영상에 사용된 이미지들은 모두 AI 합성물이었지만, 화면 왼쪽 상단에 이를 안내하는 작은 글씨를 유심히 보지 않으면 실제 상황으로 오인할 만큼 생생한 영상미를 보여줬다. 제임스 오브라이언 UC버클리대 컴퓨터공학과 교수는 로이터에 "AI 기술이 고도화됨에 따라 언젠가는 진짜와 가짜를 구분할 수 없는 시대가 도래한다"고 전망했다.

정보기술(IT) 업계도 AI가 대선에 미칠 영향을 우려하고 있다. 챗GPT를 개발한 샘 알트먼 오픈AI 최고경영자(CEO)는 지난달 16일 미 상원 청문회에 출석해 AI 기술이 내년 미 대선에서 악용될 우려가 있다며 정부가 나서서 생성형 AI 개발 허가증(라이선스)을 발급해야 한다고 말했다.

seongskim@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.