[Top-Notch]㉘ 소셜 미디어와 디지털 테러리즘

고색 창연한 유럽의 거리가 붉은 피로 물들고 있다.

‘의회 민주주의의 고향’ 영국에선 최근 두 달간 30여명의 무고한 시민이 잔혹한 테러에 희생됐다. ‘세계 패션의 중심’인 프랑스 파리의 샹젤리제 거리는 수니파 급진 무장 단체인 이슬람국가 (IS) 추종자들의 ‘트럭 테러’ 현장으로 변했다.

도를 넘는 극단주의 테러가 잇따르자 유럽연합(EU) 국가들이 페이스북, 트위터, 유튜브 등 소셜 미디어들을 압박하고 있다.

디지털 미디어들이 정보와 지식의 유통 채널이 아니라 테러 정보와 혐오와 증오 범죄를 부추기는 채널로 변질됐다는 비판이 거세지고 있다. 작년 미국 대선을 흔든 ‘가짜 뉴스’도 주제와 대상을 바꿔가며 유럽 사회를 흔들고 있다.

과거 수사 기관과 특공대를 중심으로 진행됐던 ‘테러와의 전쟁’이 디지털 세계로 확산되고 있다.

독일 정부는 24시간 안에 폭력, 테러 관련 게시물을 삭제하지 않으면 최대 640억원의 벌금을 물릴 수 있는 ‘페이스북 법’ 제정을 추진하고 있다./사진=블룸버그, 그래픽=방성수 기자

◆ 유럽, “사이버 테러물 좌시 않겠다”··· 독일, “벌금 640억” 입법 추진

유럽에선 소셜 미디어의 테러, 폭력 관련 게시물에 대한 늑장 처리를 좌시하지 않겠다는 강경 기류가 흐르고 있다.

도널드 투스크 유럽 연합 상임의장은 6월 22일(현지시간) 벨기에 브뤼셀에서 열린 유럽 정상회의에서 "소셜 미디어 기업들에게 사이버 공간에서의 테러 관련 게시물을 막기 위해 필요한 모든 조치를 취해야 한다"고 말했다.

투스크 의장은 “테러와 폭력 게시글을 탐지·삭제하는 새로운 방법을 찾아야 한다. 필요하다면 관련 법안을 발의할 준비가 돼 있다"고 말했다.

테리사 메이 영국 총리도 최근 “인터넷이 테러리즘을 양산하는 공간이 됐다”며 페이스북 등을 통한 테러리즘 확산을 강하게 비판했다. 영국 정부는 구글이 올 해 초 극단주의자가 올린 동영상에 영국 정부와 기업 광고를 게재한 사실을 확인 한 뒤 구글 광고를 중단했다.

독일은 '페이스북 법(法)'을 추진하고 있다. 페이스북 등 소셜 미디어가 ‘가짜 뉴스’, 테러·폭력을 선동하는 게시물을 24시간 내에 삭제하지 않으면 최대 5000만유로(한화 640억원) 벌금을 물릴 수 있도록 하는 내용이 핵심이다.

표현의 자유 등 ‘위헌 소지’가 다분하다는 반대 여론에도 불구하고 폭력·테러 선동과 가짜 뉴스의 해악이 도를 넘었다는 판단 때문이다.

하이코 마스 독일 법무장관은 "페이스북은 처벌 가능한 게시물을 39%밖에 삭제하지 않고 있다. 트위터는 그 비율이 1%에 불과하다"며 "소셜 미디어의 서비스가 가짜 뉴스나 증오 발언을 전파하는 수단으로 사용되면 해당 기업도 책임을 져야 한다"고 비판했다.

독일 경찰은 6월 20일 ‘가짜 뉴스’ 유포 등 혐의로 36명을 체포했다. 오는 9월 독일 총선을 앞두고 인종·이슬람 혐오, 테러·폭력을 부추기는 게시물이 확산되고 러시아 등 외부 세력이 ‘가짜 뉴스’를 통해 선거판을 흔들 수 있다는 불안감이 확산되고 있다고 외신들은 전했다.

독일에서는 2015년 무조건적 난민 수용 정책 실시 이후 120만명에 달하는 이민자와 난민들이 유입, 반(反)난민·반이슬람 정서가 확산되고 있다. 지난 1월 13세 소녀가 난민들에게 유괴돼 성폭행당했다는 ‘가짜 뉴스’로 여론이 들끓었고, 이민자들을 공격하는 증오 범죄도 크게 늘고 있다.

영국 정부는 올 해 초 유튜브의 폭력 동영상에 영국 정부 광고가 나가자 광고를 중단했다./그래픽=방성수 기자

◆ 페이스북·구글 대책 고심··· 인공지능, 차단 프로그램 도입

페이스북이 테러리즘의 확산을 전파하는 숙주가 되고 있다는 비판 여론이 거세지자 페이스북도 대책을 마련하기 위해 고심하고 있다.

NPR 등은 23일 “페이스북이 테러범들의 부적절한 게시물을 차단하기 위해 인공지능(AI)을 도입키로 했다”며 “인공지능이 테러 관련 단어, 문구, 그리고 이미지를 학습해 관련 사이트를 추적하고 가짜 계정으로 테러 선전용 컨텐츠를 유포하는 사용자를 찾아낼 것”이라고 보도했다.

페이스북은 “인공지능이 잔인한 사진과 비디오를 식별해 업로드 단계부터 제재할 것”이라며 “콘텐츠 관리 시스템인 ‘사후 검열’, ‘삭제’에서 더 나아가 ‘사전 검열’을 강화하는 프로그램도 도입하겠다”고 밝혔다.

구글도 유튜브에 올라오는 테러 관련 영상을 차단하는 기술을 개발하고 인력을 충원하겠다는 계획을 밝혔다고 CNBC가 6월19일 보도했다.

▲극단적인 콘텐츠를 식별, 제거하는 인공지능 소프트웨어 개발 ▲유튜브 내 자경단 역할을 하는 유튜브 히어로즈(YouTube Heroes) 근무 인력 확대 ▲테러 관련 콘텐츠의 광고 차단 ▲ 데이터 관리 회사와 협력, 잠재적 테러리스트 정보 관리 강화 등 테러 관련 콘텐츠를 식별하고 차단하는 내용이 핵심이다.

켄트 워커 구글 법률담당 부사장은 “테러는 열린 사회에 대한 공격이다. 폭력과 증오로 인한 위협에 대처하는 것은 우리 모두에게 중요한 과제”라 말했다.

연쇄 테러로 몸살을 앓고 있는 영국 경찰이 의회 건물 주변에 대한 경계와 순찰을 강화했다./사진=블룸버그

◆ “실효성 없다”··· “표현의 자유 침해” 반론도

소셜 미디어에 대한 처벌 강화가 능사가 아니라는 반대 여론도 만만치 않다.

J.M.버거 헤이그 카운터테러리즘 국제센터 연구원은 “인터넷상에서 단순히 IS나 알카에다 에 대해 언급하는 것까지 테러리즘에 포함돼 제재받을 수 있다”며 “과도한 제재는 표현의 자유를 침해할 수도 있다”고 주장했다.

질란 요크 전자 프런티어 재단 디렉터는 “페이스북의 인공지능 도입이 테러 집단 가입을 방지하려는 것인지 단순히 테러 관련 게시물을 올리지 못하게 하려는 것인지 구분하기 어렵다”며 실효성에 의문을 제기했다.

가령 구글인 6개월 간 비디오 분석 모델을 이용해 테러 관련 콘텐츠의 절반 이상을 삭제했지만, 미디어들의 뉴스 자료 화면처럼 기준이 모호한 콘텐츠를 가려내는 것은 쉽지 않다는 주장도 나온다. 결국 더 많은 인력을 투입해야 하는데, 하루 수억개에 달하는 콘텐츠를 관리하기 어렵다는 지적도 있다.

독일 주간지 '디 자이트' 조켄 비트너 정치 담당 에디터는 6월21일 뉴욕타임스 기고에서 "전체주의와 반인륜 이데올로기에 맞서는 가장 효과적인 무기는 자유로운 의견 개진의 힘이지 처벌을 강화한 법률 제정이 아니다"고 주장했다.

방성수 기자(ssbang@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>