선거철 딥페이크 영상 기승…'선관위 추적팀' 눈에 불 켰다

위반 게시물 삭제, 악의적 게시물은 고발

선거법 위반 딥페이크 215건 삭제요청

[앵커]

바이든 미국 대통령이죠. 서점에서 책을 고르고 있습니다. 어떤 책을 보는 걸까, '치매를 위한 두뇌 운동'이란 표지판이 붙어있군요. 바이든 나이가 많다며 공격해 왔던 사람들, 이 영상에 곧바로 반응했습니다. '것 봐라 치매 아니냐' 이렇게 조롱하는 댓글들을 단 거죠. 그런데 지금 보신 것은 가짜, 조작된 영상입니다. 과거 바이든이 서점을 찾은 장면에 치매 표지판을 합성한 겁니다. 선거 때면 이런 허위 조작 영상이 기승을 부립니다. 엉뚱하게 정치인 얼굴을 합성하거나, 하지도 않은 말을 한 것처럼 조작하는 거죠. 갈수록 감쪽같은 데다 인공지능, AI에게 맡기면 1시간도 안 걸립니다. 중앙선거관리위원회가 총선을 앞두고 이런 식의 영상을 실시간 모니터링 중입니다. 200건을 넘게 적발해 삭제 요청하기도 했는데, 한계도 많다고 합니다.

채승기 기자입니다.

[기자]

딥페이크 감별 프로그램이 버락 오바마 전 미국 대통령 영상을 분석하자, 초록색 탐지 영역이 빨간색으로 바뀝니다.

AI로 만든 가짜 영상일 가능성이 있단 겁니다.

[특정 수치 이상이 넘어가면 이게 '딥페이크다, 아니다'라기보단/(사실과) 다를 확률이, 일반적이지 않을 확률이 매우 높다…]

중앙선거관리위원회는 이런 딥페이크 영상이 선거에 악용되는 걸 막기 위해 특별대응팀을 꾸렸습니다.

지난 1월부터 전담 요원과 AI 전문가, 모니터링 요원 등 약 500명이 유튜브, 포털사이트, 소셜미디어 등을 체크하고 있습니다.

선거법상 선거일 90일 전부터는 선거운동에 딥페이크를 이용할 수 없습니다.

선거범죄 가능성이 있는 정치 관련 게시물을 자동 수집하는 온라인 시스템도 구축했습니다.

대응팀 요원들도 추가로 직접 특정 키워드 등을 검색해 확인합니다.

선거법 위반 게시물이 적발되면 삭제 조치를 하고 악의적·반복적인 정황이 있으면 수사기관에 고발합니다.

실제로 한 정치인이 상대 진영 정치인에게 부정적인 말을 하는 딥페이크 영상 등이 적발됐는데 선관위가 지금까지 삭제 요청을 한 이런 선거 게시물은 215건이나 됩니다.

[임준혁/중앙선관위 사이버조사과 행정사무관 : 특정 후보자에 대해서 허위정보로 비난하는 양상을 주목하고 그 점을 방지하려고 노력하고 있습니다.]

[영상디자인 유정배]

채승기 기자 , 조용희, 박선호

JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.

Copyright by JTBC All Rights Reserved.