더 쉽고 빠르고 값싸게 가짜뉴스 ‘뚝딱’… 정치·경제 위협 가속 [심층기획-AI 앞에 선 민주주의]

시민 혼란 부추기는 ‘딥페이크’

머그샷 찍는 바이든·법정 앉은 트럼프…

최근 생성형 AI 프로그램 상용화 따라

누구나 가짜 사진·영상 제작 가능해져

공적 인물·장소 활용 거짓 콘텐츠 유포

부정적 이미지 확산 선거·증시 등 영향

전문가 “탐지기술 개발 사실상 불가능”

美·유럽, 딥페이크 규제법안 마련 속도

AI 생성물에 워터마크 표기 등 추진

인공지능(AI)이 삶 곳곳에 깊숙이 침투했다. 우리의 행선지, 쇼핑 목록, 검색기록 등 일상을 감시하며 개인정보를 수집한다. 소셜미디어의 알고리즘은 시민들의 편향성을 파고들어 양극화를 심화시킨다. 정치 영역에서 AI발 딥페이크나 가짜뉴스는 민주주의를 심각하게 위협한다. 세계일보는 AI 사용을 규제하고 윤리 기준 마련과 함께 시민 교육에 적극적으로 나서며 AI와 민주주의의 조화를 도모하는 선진국의 사례를 7차례 나눠 연재한다.

‘스탈린처럼 보이는 바이든, 죄수복 차림으로 머그샷을 찍는 바이든…’

‘친구들과 마리화나를 피우는 트럼프, 법정에 불행하게 앉아 있는 트럼프…’

도널드 트럼프 전 미국 대통령이 경찰에 연행되는 가짜 사진

미국의 이미지 생성형 인공지능(AI) 프로그램 ‘미드저니’에 조 바이든과 도널드 트럼프를 키워드로 검색하면 두 사람을 악랄하고 우스꽝스럽게 묘사한 이미지가 화면을 가득 채운다. 프로그램 이용자들이 간단한 두세 문장을 입력해 만든 가짜 사진들이다. 미드저니에 월 8달러(약 1만원)만 내면 누구든지 가짜 사진을 10초에 4개꼴로 무한정 생성할 수 있다.

AI를 이용해 가짜 사진, 영상 등을 합성하는 ‘딥페이크(Deepfake)’가 민주주의를 뒤흔들 수 있다는 우려가 전 세계적으로 커지고 있다. 특히 내년 11월 대선을 치르는 미국은 선거 운동에서 딥페이크 사용을 규제하기 위한 방안 마련에 속도를 내는 중이다.

론 디샌티스 플로리다 주지사가 유포한 트럼프 전 대통령이 앤서니 파우치 전 전염병연구소장을 껴안는 가짜 사진

◆실제적 위험 된 딥페이크

딥페이크는 이미 전 세계 도처에서 시민들을 혼란에 빠뜨리고 있다. 최근 생성형 AI 프로그램이 상용화하면서 누구나 손쉽게 딥페이크를 만들 수 있게 된 게 주요인이다. 지난 3월 전 세계에 퍼진 트럼프 전 대통령이 연행되는 사진은 미드저니를 통한 간단한 조작으로 만들어진 딥페이크였다. 프란치스코 교황이 명품 패딩을 입은 가짜 사진 역시 이 프로그램으로 만들어졌다.

프란치스코 교황이 명품 패딩을 입은 가짜 사진

정치 영역에서의 딥페이크에 관해 연구한 매트 그로 미국 노스웨스턴대 조교수는 “지금과 100년 전의 가장 큰 차이점은 오늘날에는 거짓 정보를 훨씬 더 쉽고 빠르고 값싸게 생성할 수 있다는 것”이라며 “생성형 언어 모델로 제작한 가짜 콘텐츠를 문자-음성 변환 알고리즘에 입력해 공적인 인물의 목소리로 바꾸고, 딥페이크 영상도 활용하면 완벽하진 않지만 거짓 정보를 쉽게 만들 수 있다”고 설명했다.

딥페이크는 단순한 논란거리를 넘어 정치·경제에 실질적인 위협을 가하고 있다. 지난 5월 미국 펜타곤(국방부) 청사 근처에서 대형 폭발이 발생했다는 가짜 사진이 퍼지면서 미 증시와 국채, 금값이 출렁였다. 지난 5월 튀르키예 대선에선 분리주의 무장단체가 야당 후보를 지지하는 가짜 영상이 확산했고, 그 여파로 레제프 타이이프 에르도안 대통령이 연임에 성공했다.

◆불가능한 딥페이크 탐지

문제는 딥페이크는 매 순간 새롭게 생성되고 있는데 이를 구별할 수 있는 확실한 방법이 아직 없다는 것이다. 그로 조교수는 특정 영상이 딥페이크인지 아닌지 구별하는 실험에서 참여자의 70% 정도만이 구별에 성공했다고 설명했다. 딥페이크를 탐지하는 AI 기술을 개발하려는 시도도 많았지만, 전문가들은 이론상 불가능하다고 진단했다. 뉴욕대 ‘책임 있는 AI 센터’ 소장인 줄리아 스토야노비치 교수는 “우리가 가짜 콘텐츠를 구별하는 방법을 개발하는 즉시 가짜 콘텐츠는 군비 경쟁을 하는 것처럼 그 방법을 극복할 것”이라며 “가짜 콘텐츠를 구별하는 기술적인 방법은 통하지 않을 것”이라고 지적했다.

미국 펜타곤(국방부)에서 대형 폭발이 발생한 가짜 사진

딥페이크를 구별할 수 있다고 해서 문제가 해소되는 것은 아니다. 거짓 정보는 특정 사건과 인물 등에 대한 편견을 강화하는 것만으로도 위력을 발휘하기 때문이다. 미국의 세 대학 기관이 합작해 설립한 ‘신뢰할 수 있는 AI 연구소’ 소속 데이비드 브로니아토프스키 조지워싱턴대 부교수는 “‘칩페이크’(Cheapfake: 쉽게 구분할 수 있는 가짜 콘텐츠)라고 불린 낸시 펠로시 전 하원의장이 술 취한 것처럼 보이는 4년 전 영상도 사람들의 지각에 영향을 끼치면 위협을 가한 것”이라며 “딥페이크는 상대 정치인에 대한 부정적인 이미지를 확산하는 데 사용될 수 있다”고 했다.

◆규제 방안 마련에 속도

딥페이크의 위험성을 완화하기 위한 법적인 틀을 만드는 게 급선무라는 지적이 많다. 짧은 선거 기간 내에 딥페이크를 탐지하고 책임을 묻는 게 쉽지 않은 만큼, 피해를 줄일 수 있는 선제적인 방책을 마련해야 한다는 것이다.

연방 차원의 딥페이크 규제 방안이 없는 미국은 최근 연방선거관리위원회(FEC)가 정치 광고에서 딥페이크 사용을 규제해야 한다는 시민단체의 청원을 검토하기로 결정하면서 논의에 속도가 붙고 있다. 지난 6월 유럽의회에서 통과된 ‘유럽연합(EU) AI법’에도 AI로 만들어진 창작물에 워터마크를 표기하도록 규정돼 있다.

에마뉘엘 마크롱 프랑스 대통령이 시위대와 진압 경찰 사이를 질주하는 가짜 사진

시민들의 딥페이크에 대한 이해력을 높이는 게 근본적인 해결책이라는 지적도 나온다. 그로 조교수는 “사람들이 자신이 보는 콘텐츠가 만들어진 이유, 출처와 같은 맥락을 파악하고 혹시나 자신을 속이려고 하는 건 아닌지 비판적인 시각을 갖는 게 제일 중요하다”고 했다.

※본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

뉴욕·워싱턴·보스턴=김병관 기자 gwan2@segye.com

ⓒ 세상을 보는 눈, 세계일보