딥페이크 활개 선거교란 비상

◆ 제22대 국회의원선거 ◆

4월 10일로 예정된 제22대 국회의원 선거가 50일 앞으로 다가온 가운데 법으로 금지된 '딥페이크(인공지능(AI) 합성 조작물)' 콘텐츠가 최대 위협 요인으로 떠올랐다. 중앙선거관리위원회가 전담팀을 구성해 단속에 나서고 있지만 한정된 인력과 기술력 등으로 실효성에 의문까지 제기되는 상황이다.

19일 선관위는 딥페이크를 이용한 게시물을 지난달 29일부터 단속한 결과 이날 오전까지 129건을 적발해 삭제를 요청했다고 밝혔다. 선관위는 수십 명 규모로 이뤄진 'AI 전담팀'을 운영 중인데, 자체 모니터링으로만 20여 일 만에 100건이 훌쩍 넘는 불법 게시물을 적발한 셈이다.

국회는 지난해 12월 딥페이크를 활용한 선거운동 게시물을 선거일 90일 전부터 전면 금지하는 내용을 담은 공직선거법 개정안을 통과시켰다.

딥페이크 게시물은 기술이 급격하게 향상되면서 실제와 구분이 어려울 정도로 정교해졌다. 이런 상황에서 총선을 불과 50일 앞둔 한국은 게시물 단속을 선관위 자체 모니터링에만 의존하고 있어 단속 실효성에 대한 우려가 크다.

현재 선관위는 72명에 불과한 전담팀이 딥페이크 게시물에 대해 모니터링·AI 감별·분석과 삭제를 도맡아 수행하고 있다.

선관위는 자체 구축한 AI 기반 시스템에서 자동 수집한 게시물을 모니터링해 일반적으로 사용하는 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로 감별하기 어려운 딥페이크 게시물은 전문 자문위원에게 자문한다.

10분이면 뚝딱 만들어지는 딥페이크 게시물을 감별하는 데 이 같은 과정을 거치는 것이다. 당연히 속도전은 물론 기술력 싸움에서도 민간 영역에 밀릴 수밖에 없다는 지적이 나온다.

조진만 덕성여대 정치외교학과 교수는 "변화한 선거관리 환경을 이해하고 새로운 형태의 선거운동에 대응할 수 있도록 지원이 필요하다"며 "정부 부처가 유기적인 협의체나 대응 체계를 구축해 가동할 수 있어야 한다"고 말했다.

[전경운 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]