대선판 뒤흔들 가짜뉴스, 어떻게 차단하나?

국과수, 디지털 증거물 인증 서비스로 가짜뉴스 전파 등 증거물 수집

중앙선관위, 딥페이크 활용 규정 발표하고 활용 가능 범위 알려

세계적으로 이슈되는 가짜뉴스, 글로벌 기업도 대응책 마련 나서

가짜뉴스를 통한 허위사실 확산은 오늘날 디지털 서비스 대표적인 역기능으로 꼽힌다. 스마트폰과 인터넷이 대중화된 오늘날, 한 번 생성된 가짜뉴스는 빠르게 전파되고, 수습에는 많은 노력이 든다.

오는 3월 9일 열리는 제20대 대통령선거를 앞두고 국내에서도 가짜뉴스와 허위사실 확산에 대한 대응책 마련에 나서고 있다. 국립과학수사연구소(국과수)는 지난 20일 디지털 증거물 인증 서비스(DAS)가 가짜뉴스를 통한 불법 선거운동 적발에 활용되고 있다고 밝혔다.

DAS는 디지털 증거물에서 일종의 지문에 해당하는 해시값을 추출해, 컴퓨터나 휴대전화 등에서 캡처하거나 촬영된 영상, 화면, 음성을 증거물로 남기는 서비스다. 국과수는 해당 증거물이 원본임을 알리는 인증서를 선거관리위원회에 발급한다.

국과수에 따르면 대통령선거 예비후보 등록이 시작된 지난해 7월부터 올해 1월까지 2만4211건의 증거물이 등록됐다.

이를 통해 소셜 미디어나 유튜브 등을 이용한 허위사실 유포나 가짜뉴스 확산 증거물을 확보할 수 있으며, 증거물 수집 절차에서 외조나 변조에 대한 의심을 차단하고, 증거자료 제출 시 증명력도 확보할 수 있다. 특히 최초 유포자가 등록한 가짜뉴스를 삭제하고 잠적하더라도 유포자를 찾아내는 데 일조할 전망이다.

이러한 움직임은 해외에서도 나타나고 있다. 유튜브는 가짜뉴스 확산 금지방안을 고심하고 있다고 17일(현지시간) 블로그를 통해 밝혔다. 미국에서 퍼지고 있는 코로나19 관련 가짜뉴스와 음모론 등에 대응하기 위함이다.

유튜브는 그간 머신러닝과 신고 등을 통해 규정 위반 콘텐츠를 신속하게 제거하고, 공신력 있는 출처를 통해 가짜뉴스 차단에 힘써왔다. 하지만 '최신' 가짜뉴스가 등장하면서 기존의 자동화 시스템이 이를 거르지 못하는 사례가 늘어났다고 설명했다. 가짜뉴스 확산 이후 관련 내용을 해명하기 위한 공식 콘텐츠는 상대적으로 제작에 시간이 걸리기 때문에 이에 대해 지적할 수 있는 콘텐츠도 부족하다.

이에 따라 유튜브는 자연재해나 뉴스속보 등 주요 글로벌 이벤트에 대해서는 텍스트로 된 기사를 함께 볼 수 있도록 뉴스 패널을 개발 중이라고 밝혔다. 또한 언론에서 다루지 않는 내용에 대해서는 시청자에게 팩트체크를 위한 별도의 정보를 제공하며, 추가 팩트조차 제공하기 어렵다면 경고 메시지를 표시할 계획이라고 소개했다.

특히, 이러한 의심 콘텐츠에 대해서는 외부로 확산되지 않도록 공유 버튼을 비활성화하고, 외부 웹사이트에 해당 영상을 링크로 연결하는 것이 불가능하다. 다만, 해당 기능이 표현의 자유를 지나치게 훼손할 수 있다고 우려해 콘텐츠 시청자가 능동적으로 선택할 수 있는 방안도 고려하고 있다.

기술 발전은 딥페이크 등 새로운 유형의 가짜뉴스도 만들었다. 딥페이크란 인공지능으로 인물의 얼굴과 목소리를 생성해 실제 인물을 가상으로 만들고, 발언하게 하는 기술이다. 과거 단순한 영상물에 얼굴을 합성하는 수준을 넘어, 텍스트만 입력하면 자연스러운 목소리와 입모양으로 발화까지 하는 기술도 등장했다.

미국에서는 2020년 대선을 앞두고 이러한 이슈가 불거지면서 딥페이크 기반 가짜뉴스 차단에 집중했다. 트위터는 2020년 3월부터 합성·변조된 콘텐츠를 공유해 남을 속이는 것을 금지한다는 규정을 새롭게 발표하고, 해당 콘텐츠 아래에 '조작됨'이라는 표시를 달거나 자체적으로 삭제하기로 결정했다.

어도비는 뉴욕타임스, 트위터 등과 함께 사진이나 동영상 혹은 뉴스 같은 콘텐츠의 원저작자와 원본을 찾을 수 있는 디지털 워터마크를 도입해 뉴스의 진위성을 판별하는 기술을 2019년부터 도입했으며, 마이크로소프트도 인공지능 기반 딥페이크 탐지 기술을 공개한 바 있다.

국내에서도 중앙선거관리위원회가 올해 1월 '딥페이크 영상 관련 법규운용 기준'을 발표했다. 딥페이크는 가짜뉴스 등 부정적인 측면 외에도 선거운동에서 긍정적으로 활용할 수 있는 기능이 있기 때문에 이에 대한 명확한 기준을 제시한 것.

이에 따라 제20대 대선에서는 딥페이크 영상을 제작해 선거운동에 활용하는 것이 가능해졌으며, 후보자 동의하에 제3자도 이를 제작해 유포할 수 있다. 다만 딥페이크 영상물이 허위사실을 유포하거나 상대 후보를 비방하면 위법이며, 딥페이크 영상에는 반드시 딥페이크라는 사실을 명시해야 한다.
이상우 기자 lswoo@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -