딥페이크 활개 선거교란 비상

◆ 제22대 국회의원선거 ◆

4월 10일로 예정된 제22대 국회의원 선거가 50일 앞으로 다가온 가운데 법으로 금지된 '딥페이크(인공지능(AI) 합성 조작물)' 콘텐츠가 최대 위협 요인으로 떠올랐다. 중앙선거관리위원회가 전담팀을 구성해 단속에 나서고 있지만 한정된 인력과 기술력 등으로 실효성에 의문까지 제기되는 상황이다.

19일 선관위는 딥페이크를 이용한 게시물을 지난달 29일부터 단속한 결과 이날 오전까지 129건을 적발해 삭제를 요청했다고 밝혔다. 선관위는 수십 명 규모로 이뤄진 'AI 전담팀'을 운영 중인데, 자체 모니터링으로만 20여 일 만에 100건이 훌쩍 넘는 불법 게시물을 적발한 셈이다.

국회는 지난해 12월 딥페이크를 활용한 선거운동 게시물을 선거일 90일 전부터 전면 금지하는 내용을 담은 공직선거법 개정안을 통과시켰다.

딥페이크 게시물은 기술이 급격하게 향상되면서 실제와 구분이 어려울 정도로 정교해졌다. 이런 상황에서 총선을 불과 50일 앞둔 한국은 게시물 단속을 선관위 자체 모니터링에만 의존하고 있어 단속 실효성에 대한 우려가 크다.

'딥페이크 금지법' 뒤늦게 통과 선관위, 올해 관련예산 못받아

현재 선관위는 72명에 불과한 전담팀이 딥페이크 게시물에 대해 모니터링·AI 감별·분석과 삭제를 도맡아 수행하고 있다.

선관위는 자체 구축한 AI 기반 시스템에서 자동 수집한 게시물을 모니터링해 일반적으로 사용하는 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로 감별하기 어려운 딥페이크 게시물은 전문 자문위원에게 자문한다. 10분이면 뚝딱 만들어지는 딥페이크 게시물을 감별하는 데 이 같은 3단계 과정을 거치는 것이다. 당연히 속도전은 물론 기술력 싸움에서도 민간 영역에 밀릴 수밖에 없다는 지적이 나온다.

특히 올해 선관위에는 딥페이크 선거운동 게시물 적발·조치를 위한 선관위 사업비가 예산에 별도로 책정되지 않았다. 지난해 말 관련 공직선거법 개정안이 급하게 통과되면서 예산을 협의할 시간이 없었기 때문이다.

선관위는 지난해 8~9월까지만 해도 후보자나 제3자가 생성형 AI로 도출된 내용(글·음성·영상 등)을 선거운동에 활용하는 것에 대해 가능하다고 보고 관련 법규 운용 기준을 마련한 바 있다. 그러나 연말 법 개정으로 모든 게 원천 금지됐다.

선관위에 따르면 대다수 조치 사례는 정치인의 딥페이크 영상을 이용해 해당 정치인을 홍보하거나 반대 진영 정치인을 비난하는 게시물을 올린 것으로 파악된다. 주로 기존 영상에 얼굴만 바꾸거나 실제 영상에 딥보이스(음성 조작)를 활용해 음성만 바꾸는 방법이 사용됐다.

이미 국내 민간 스타트업은 조작된 딥페이크 영상을 약 5분 만에 판별해내는 기술을 보유하고 있다. 그러나 현재 선관위에 이 같은 고도의 탐지 기술은 그림의 떡이다.

김승수 국민의힘 의원이 지난해 12월 22일 최소한의 예방 장치가 될 수 있는 '워터마크(불법 복제를 막기 위해 삽입하는 표식) 삽입 의무화법'을 발의했지만 소관 상임위원회에 상정조차 되지 못하고 있다.

[전경운 기자 / 김대기 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]