전세계로 퍼진 SNS 갈등…딥페이크·가짜뉴스와의 전쟁[AK라디오]

심각해진 딥페이크 성범죄

각국 SNS 플랫폼 규제 서둘러

전세계적으로 사회관계망서비스(SNS) 플랫폼과 각국 정부 간의 갈등이 계속해서 커지고 있다. SNS는 인터넷을 통한 자유로운 소통과 정보 교환의 주요 수단이 되었지만, 동시에 범죄, 가짜 뉴스, 혐오 발언 등 각종 사회적 문제를 일으키는 플랫폼으로도 자리 잡고 있다. 이에 따라 각국 정부는 SNS 규제를 강화하고 있으며, 이를 둘러싼 '표현의 자유'와 '이용자 보호', 두 개의 가치 사이에서 갈등이 심화되고 있다. 프랑스, 브라질, 한국을 포함한 여러 국가에서 SNS와 관련된 사건들이 발생하면서, 전 세계적으로 SNS를 둘러싼 규제 논의가 활발히 진행되고 있다.
프랑스에서의 텔레그램 창업자 체포 사건

[이미지출처=로이터연합뉴스]

프랑스에서 텔레그램 창업자이자 CEO인 파벨 두로프의 체포 사건은 SNS와 정부 간의 갈등을 상징적으로 보여주는 사례이다. 텔레그램은 익명성과 강력한 암호화 기능을 내세워 전 세계적으로 8억 명이 넘는 사용자를 보유한 메신저 플랫폼이다. 이러한 강력한 암호화는 이용자들에게 사생활 보호를 보장하지만, 동시에 불법적인 콘텐츠 유통과 범죄 행위에 이용될 수 있다는 비판을 받고 있다.

프랑스 당국은 텔레그램이 미성년자 성착취물 유통 및 마약 밀매에 이용되고 있다고 판단하여, 텔레그램 측에 용의자 신원 공개를 요청했다. 하지만 파벨 두로프는 이러한 요청에 협조하지 않았고, 프랑스 정부는 그를 체포했다. 두로프는 보석금 70억 원을 내고 석방되었으나, 프랑스 내에서 출국이 금지되었으며, 그의 형인 니콜라이 두로프도 체포 영장이 발부된 상태다.

이 사건은 텔레그램과 같은 SNS 플랫폼이 사생활 보호와 법적 책임 사이에서 어떻게 균형을 맞춰야 하는지에 대한 중요한 논쟁을 불러일으켰다. 프랑스는 SNS 플랫폼이 불법적인 활동을 방조해서는 안 된다고 주장하는 반면, 텔레그램은 이용자들의 프라이버시를 보호하는 것이 최우선이라는 입장이다. 이번 사건은 앞으로 다른 국가들이 SNS를 어떻게 규제할지에 대한 중요한 선례로 남을 가능성이 크다.
브라질의 X(옛 트위터) 접속 차단

[이미지출처=로이터연합뉴스]

브라질에서도 SNS 플랫폼과 정부 간의 충돌이 심각해지고 있다. 브라질 법원은 X가 가짜 뉴스와 증오 메시지를 유포하는 특정 계정을 차단하지 않았다는 이유로, X의 접속을 차단했다. 브라질 정부는 X가 법원의 명령을 이행하지 않은 것에 대해 벌금을 부과했고, 현재 X는 이 벌금을 납부하지 않은 상태다. 이에 따라 브라질 법원은 X의 접속을 차단하는 조치를 취했으며, 우회 접속 시에도 벌금을 부과하기로 했다.

X의 소유주인 일론 머스크는 처음에는 브라질 정부의 조치에 강력히 반발했다. 그는 브라질 법원이 표현의 자유를 억압하고 있다고 주장하며, 브라질 법원 판결에 대해 비판을 쏟아냈다. 그러나 머스크는 이후 입장을 바꾸어 브라질 법원의 명령을 따르겠다고 발표했다. 이는 X와 머스크가 다른 국가에서도 유사한 문제를 겪고 있음을 보여준다. 영국, 베네수엘라, 호주, 인도 등에서 X는 가짜 뉴스 및 혐오 발언 문제로 정부와 갈등을 빚고 있다.

특히 영국에서는 반이민 폭동과 관련해 X가 내전은 불가피하다는 메시지를 내보낸 뒤 폭력 시위가 발생한 사건이 있었다. 이에 영국 정부는 X의 역할을 비판했고, 머스크는 표현의 자유를 주장하며 이를 반박했다. 이러한 일련의 사건들은 SNS가 사회적 혼란을 야기할 수 있는 잠재적인 위험성을 보여준다. 각국 정부는 SNS가 공공 안전을 위협하는 콘텐츠의 유통을 방치해서는 안 된다고 주장하지만, 머스크를 비롯한 SNS 플랫폼 운영자들은 표현의 자유 보호를 강조하고 있다.
수면 위로 떠오른 딥페이크 성범죄

[이미지출처=연합뉴스]

한국에서는 딥페이크 기술을 이용한 성범죄 문제가 심각하게 대두되고 있다. 딥페이크 기술은 인공지능(AI)을 이용해 사람의 얼굴을 다른 영상에 합성하는 기술로, 이를 통해 성착취물이 제작되고 있다. 이 문제는 처음에는 연예인들을 대상으로 주로 발생했으나, 최근에는 일반인과 학생들까지도 딥페이크 성착취물의 대상이 되고 있어 더욱 심각한 사회 문제가 되고 있다.

텔레그램을 포함한 여러 SNS 플랫폼에서는 딥페이크 성착취물이 음성적으로 유포되고 있으며, 특히 한국의 교육기관과 관련된 불법 대화방이 성행하고 있다. 전국의 중고등학교와 대학교 이름을 걸고 만들어진 불법 대화방에서는 특정 학교 학생들의 얼굴을 합성한 딥페이크 성착취물이 제작·유포되고 있다. 피해자들은 자신도 모르게 이러한 불법 콘텐츠에 등장하게 되며, 이를 삭제하거나 피해를 회복하기가 매우 어렵다.

최근 서울대학교에서 발생한 사건은 이러한 문제를 더욱 부각시켰다. 서울대 졸업생들이 여학생들의 얼굴을 딥페이크 성착취물에 합성하여 유포한 사건이 발생했으며, 피해자 여성만 60명이 넘는 것으로 파악되었다. 가해자들은 1심에서 징역형을 선고받았으나, 이러한 처벌이 충분하지 않다는 목소리가 커지고 있다. 이 사건은 딥페이크 성범죄가 단순한 개인의 문제를 넘어 사회 전체에 심각한 영향을 미치고 있음을 보여준다.

한국에서는 이러한 딥페이크 성범죄를 방지하기 위해 법적 규제를 강화해야 한다는 목소리가 높아지고 있다. 하지만 딥페이크 기술의 발전과 음성적인 유통 방식으로 인해, 이를 효과적으로 단속하고 규제하는 데는 많은 어려움이 따르고 있다.
글로벌 SNS 규제 흐름

[이미지출처=연합뉴스]

SNS를 둘러싼 규제 논의는 전 세계적으로 확산되고 있다. 유럽연합(EU)은 디지털 서비스법(DSA)을 통해 SNS 플랫폼들이 불법 콘텐츠 유통에 소극적으로 대응하지 않도록 강력한 규제 조치를 취하고 있다. 메타, 틱톡, X 등을 대상으로 한 조사가 진행 중이며, 이 법안은 SNS 기업이 불법 콘텐츠를 방치할 경우 법적 책임을 묻는 것을 골자로 한다. EU는 SNS가 단순한 정보 전달 수단을 넘어 사회적 혼란을 야기할 수 있는 중요한 매체라고 보고, 이에 대한 규제를 강화하고 있다.

영국도 SNS 규제에 적극 나서고 있다. 영국 정부는 2024년 하반기부터 온라인 안전법을 시행할 예정이다. 이 법은 SNS 플랫폼이 불법 콘텐츠를 충분히 차단하지 않을 경우, 경영진에게 형사 책임을 묻는 것을 골자로 하고 있다. 영국 정부는 SNS가 불법 콘텐츠 유통에 책임을 져야 하며, 이를 통해 사회적 혼란을 방지할 수 있다고 주장하고 있다.

반면 미국은 SNS 기업들에 대한 면책 조항을 여전히 유지하고 있다. 통신품위법 230조는 SNS 플랫폼이 이용자들이 게시한 콘텐츠에 대한 법적 책임을 지지 않도록 보호하는 역할을 하고 있다. 그러나 최근 틱톡에서 유행했던 '기절 챌린지' 사건으로 인해 10대 청소년이 사망하면서, SNS 플랫폼에 대한 법적 책임을 묻는 목소리가 커지고 있다.

특히 일부 주에서는 SNS 규제 법안이 통과되고 있다. 뉴욕주는 청소년에게 유해한 콘텐츠를 제공하는 알고리즘을 금지하는 법안을 통과시켰고, 플로리다주는 14세 미만 청소년이 SNS에 가입하지 못하도록 하는 법안을 제정했다. 이는 SNS가 청소년에게 미치는 부정적인 영향을 차단하기 위한 조치로, SNS 기업들이 청소년 보호를 위해 더 많은 책임을 져야 한다는 요구가 커지고 있다.
표현의 자유와 규제의 충돌
SNS 규제의 강화는 표현의 자유를 둘러싼 논쟁을 불러일으키고 있다. SNS 플랫폼은 이용자들이 자유롭게 의견을 나누고 정보를 교환할 수 있는 공간이지만, 동시에 불법 콘텐츠와 혐오 발언, 가짜 뉴스 등이 유통되는 문제도 함께 존재한다. 각국 정부는 이러한 부작용을 줄이기 위해 SNS 규제를 강화하고 있지만, 일각에서는 이러한 규제가 과도하게 표현의 자유를 억압할 수 있다는 우려를 제기하고 있다.

표현의 자유를 지나치게 억압할 경우, 정부가 SNS를 검열하는 선례를 남길 수 있다는 비판도 존재한다. 예를 들어, 텔레그램의 창업자 파벨 두로프는 러시아에서 SNS 검열에 반대하며 텔레그램을 만들었지만, 이제는 다른 나라에서 동일한 문제로 체포되는 아이러니한 상황에 놓였다. 이러한 사례는 SNS 플랫폼이 정부의 규제와 이용자 보호 사이에서 어떤 입장을 취해야 할지에 대한 복잡한 문제를 드러낸다.

SNS는 현대 사회에서 중요한 소통 수단으로 자리 잡았지만, 그 부작용도 명확히 드러나고 있다. 각국 정부는 SNS가 사회적 혼란을 초래하지 않도록 규제해야 한다고 주장하고 있으며, 이러한 규제는 앞으로도 계속 강화될 전망이다. 그러나 표현의 자유와 규제의 균형을 맞추는 것은 매우 어려운 문제다. 지나친 규제는 표현의 자유를 침해할 수 있으며, 반대로 규제가 부족할 경우 SNS는 사회적 혼란을 일으키는 주요 원인이 될 수 있다.

SNS 플랫폼들은 더 이상 단순한 기술 기업이 아니라, 사회적 책임을 져야 하는 중요한 역할을 맡고 있다. 앞으로 SNS와 정부 간의 갈등은 계속될 것이며, 이를 해결하기 위한 법적·제도적 장치 마련이 필요하다. 각국 정부와 SNS 플랫폼이 사회적 안전과 표현의 자유를 동시에 보장할 수 있는 방법을 모색해야 할 것이다.

SNS와 관련된 사회적 문제는 앞으로도 계속해서 중요한 이슈로 다뤄질 것이며, 이에 대한 논의는 국제적인 수준에서 더욱 활발하게 이루어질 전망이다. SNS가 공공의 이익을 위해 어떻게 발전해 나가야 할지에 대한 사회적 합의가 필요한 시점이다.

편집자주아시아경제의 경제 팟캐스트 'AK라디오'에서 듣기도 가능한 콘텐츠입니다. AK라디오는 정치, 경제, 국제시사, 테크, 바이오, 디지털 트렌드 등 투자자에게 꼭 필요한 정보를 들려 드리는 플랫폼입니다. 기사 내 영상 재생 버튼을 클릭하면 기자의 실제 목소리가 들립니다. 해당 기사는 AK라디오에 방송된 내용을 챗GPT를 통해 재정리한 내용입니다.

김필수 경제금융매니징에디터 pilsoo@asiae.co.kr
마예나 기자 sw93yena@asiae.co.kr
조강욱 국제부장 jomarok@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>