텔레그램이 딥페이크 온상인데…또 국내 플랫폼만 때려잡나

[MT리포트-디지털 성폭력]③디지털 성폭력 시대

[편집자주] 성폭력은 물리적 공간에서만 일어나지 않는다. 가상공간에서 캐릭터를 대상으로 한 언어 성희롱부터 실존 인물의 얼굴을 합성한 딥페이크 음란물까지 다양하게 일어난다. 하지만 어디까지가 범죄일지, 어떤 처벌이 적당할지 아직 사회적 공감대는 형성되지 않았다. 실제 성폭력에 버금가는 수준의 트라우마를 남길 수 있는 디지털 성폭력의 현황과 처벌 가능성, 이에 필요한 사회적 논의를 짚어본다.

딥페이크 규제…국내 기업 역차별 없어야/그래픽=윤선정

생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르자 국회가 관련 법안을 발의하며 대응에 나섰다. 특히 딥페이크가 주로 유통되는 텔레그램 등 플랫폼에 법적 의무를 부과하는 등 규제해야 한다는 목소리가 높아지자 일각에서는 자칫하다간 국내 플랫폼 역차별 문제가 불거질 수 있다는 우려를 제기한다.

12일 IT(정보기술) 업계에 따르면 딥페이크 문제가 터진 이후로 국회에는 관련 법안이 30건 이상 발의됐다. 주로 딥페이크를 편집, 합성, 가공하는 것뿐만 아니라 소지, 구입, 저장, 시청하는 행위에 대해 처벌 규정을 신설하고 상습적인 경우 형을 가중하는 내용이 대부분이다. 가해자에 대한 수사·처벌 강화, 방송통신심의위원회의 역할과 중요성 격상, 허위 영상물 삭제 등 피해자 지원을 위한 내용도 포함됐다.

이에 대해 플랫폼 업계와 학계 등에서는 딥페이크를 규제해야 한다는 점에 공감하지만 자칫 분위기에 휩쓸려 과도한 규제로 이어져선 안 된다고 지적한다. 생성형 AI 등장 이후 하루가 다르게 기술이 발전하고 있는 상황에서 섣부른 규제는 국내 플랫폼에 대한 역차별 문제를 일으키고 산업 발전에 부담을 줄 수 있다는 취지다.

이날 방송회관에서 열린 '딥페이크 성범죄영상물 OUT! 현안 진단과 대책 모색' 토론회에서 최경진 가천대학교 법과대학 교수는 딥페이크 관련 법제도 개선 방향으로 △AI가 실제 적용되는 분야의 특성과 구체적인 위험성을 고려한 비례적 규제 체계 정립 △자율 준수 강화 등을 제시했다. 그러면서 정부는 정부대로 법적 규제를 준비하되 기업은 자율규제를 강화해야 한다고 강조했다.

정필운 한국인터넷법학회장은 "네이버, 카카오와 같은 국내 사업자와 구글, 페이스북 같은 외국 사업자를 동등하게 대우하지 못하는 비대칭 규제가 가져온 결과를 생각해 볼 필요가 있다"며 "이른바 역차별이라고 불리는 이 문제는 국내 정보기술 산업의 발전을 가로막는 고전적인 문제 중 하나"라고 말했다. 이어 "유튜브, 텔레그램에 대한 실효적인 대응이 어려운 것에서 볼 수 있듯이 지금이라도 비대칭 규제에 대한 전향적인 인식을 할 필요가 있다"고 덧붙였다.

(서울=뉴스1) 신웅수 기자 = 최형두 국민의힘 의원이 5일 오후 서울 여의도 국회에서 열린 '딥페이크 성범죄영상물 어떻게 근절할 것인가' 토론회에서 발언하고 있다. 2024.9.5/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(서울=뉴스1) 신웅수 기자

국내 규제기관은 외국 플랫폼 규제에 어려움을 겪고 있다. 대표적으로 유튜브 뮤직의 경우 유튜브 프리미엄 끼워팔기 의혹으로 1년 넘게 조사가 진행되고 있지만 여전히 제재 종류와 수위를 결정하지 못하고 있다. 개인정보보호위원회의 경우 2022년 구글과 메타에 이용자 동의 없이 개인정보를 수집해 온라인 맞춤형 광고에 활용한 구글과 메타에 총 1000억원의 과징금을 부과했으나 행정소송으로 이어져 효력을 발휘하지 못하고 있다.

이번에도 텔레그램이라는 외국계 플랫폼에서 문제가 터졌는데 이를 이유로 전체 플랫폼에 대한 규제 법안을 새로 만들었다가 국내 플랫폼만 규제를 적용받을 수 있다는 게 업계의 관측이다. 최근 텔레그램이 불법 소지가 있는 부분을 수정하겠다는 뜻을 밝혔으나 이는 CEO(최고경영자)가 수감돼있기 때문이지 현실적으로는 국내 수사기관에서 접근조차 어려운 게 텔레그램이기 때문이다.

실제로 국내 플랫폼은 딥페이크 방지를 위해 여러 장치를 마련해두고 있다. 네이버(NAVER)의 경우 실시간 AI 이미지 필터링 시스템 '클로바 그린아이'를 각 서비스에 적용해 딥페이크를 걸러내고 있고 카카오도 포털 다음에서 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하는 등 관련 노력을 기울이고 있다.

이소은 국립부경대 미디어커뮤니케이션학부 교수는 "딥페이크 악용 이미지를 삭제하거나 업로더 활동 금지, 관련 커뮤니티 폐쇄, 관련 검색어 금지 등 플랫폼 사업자의 자율규제가 필요하다"며 "플랫폼 책무를 부과하는 입법에 대해서는 산업계에 미치는 부작용도 고려해야 한다"고 강조했다.

한 플랫폼 업계 관계자는 "국내에서는 워낙 플랫폼 산업에 대한 규제가 강해 한 번이라도 문제가 생기면 큰 타격을 입을 수 있어 다들 조심하는 분위기"라며 "자체적으로 시스템도 마련하고 모니터링도 운영하면서 딥페이크 같은 성범죄에 대응하고 있다. 지금도 외국계 기업은 국내 규제를 우습게 아는데 추가적으로 규제가 생기면 국내 산업만 더욱 위축될 것"이라고 말했다.

이정현 기자 goronie@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지