"딥페이크 가짜뉴스 악용, 당선취소 필요"…유통 플랫폼도 처벌?

임종철 디자인기자 /사진=임종철 디자인기자

AI(인공지능)를 이용한 딥페이크 가짜 뉴스 근절을 위해 EU(유럽연합)처럼 딥페이크 유통 플랫폼 및 기업에 대한 처벌도 강화해야 한다는 주장이 제기됐다.

권태경 연세대 정보대학원 교수는 12일 서울 태평로 프레스센터에서 바른언론시민행동 주최로 열린 '4.10 총선과 딥페이크 가짜뉴스 근절 방안' 토론회 주제 발표를 통해 가짜 뉴스 대응에 대해 기술적·사회적·제도적 방안 등 다각적 대응이 필요하다며 이같이 주장했다.

권 교수는 "딥페이크 범죄 처벌을 위해 제도 강화와 개정된 법에 대한 인식 확산이 필요하다"며 "EU는 딥페이크 유통 플랫폼 및 기업도 처벌한다. 한국도 도입이 필요하다"고 주장했다.

또 △미세한 변화를 주는 섭동기술 등을 통해 딥페이크 생성 억제를 유도하고 SNS(소셜미디어) 가짜뉴스 계정을 폐쇄하는 등 국제적 협력 및 소셜 콘텐츠 플랫폼 대응 △원본과 딥페이크 사이 생체신호, 주파수 영역, 픽셀 차이 등을 비교분석하는 딥페이크 탐지기술 고도화 등이 필요하다고 했다.

이날 토론회는 AI 딥페이크 기반 가짜뉴스가 선거 여론 지형을 왜곡시킬 수 있다는 우려가 제기되며 이에 대응하기 위한 방안을 논의하기 위해 마련됐다. 오정근 바른언론시민행동 공동대표는 △튀르키예 선거에서 가짜뉴스로 왜곡된 여론이 선거 결과에 영향을 미친 점 △슬로바키아 총선에서 딥페이크 음성 파일로 음해를 당한 후보가 낙선한 점 등을 언급했다. 오 대표는 "차단기술보다 한 발 앞서가는 딥페이크 기술은 선거판에 엄청난 영향을 미칠 전망"이라며 "2002년 대선에 엄청난 영향을 미쳤던 '김대업 병풍사건'을 능가할 파장이 미칠지 모른다. 총선이 얼마 남은 이 시점에 대책 마련이 시급하다"고 했다.

이완수 동서대 저널리즘 담당 교수도 "정치와 민주주의 발전에 결정적으로 영향을 미치는 선거 과정에 딥페이크 기술에 의한 정보 유통은 원천적으로 차단하는 게 옳다"며 "단순히 예방과 경고 차원이 아니라 이를 어겼을 경우 선거법 위반으로 보고 당선 취소 결정에 준하는 강력한 처벌 규정을 마련할 필요가 있다"고 주장했다.

이 교수는 "유권자의 귀중한 정치행위를 보호하기 위해서라도 특정 후보나 정당이 만들어낸 딥페이크 선거 정보에 대해서는 예외없이 당선을 취소하는 쪽으로 극약처방을 내릴 필요가 있다"며 "(선거시기 사회적 갈등 등) 불필요한 사회적 자원 소모를 줄이기 위해서라도 딥페이크 선거 정보에 대해서는 현행 법률이 정하고 있는 최고의 규제 조치가 필요하다"고 했다.

12일 서울 태평로 프레스센터에서 바른언론시민행동 주최로 '4.10 총선과 딥페이크 가짜뉴스 근절방안' 토론회가 진행됐다. / 사진=황국상 기자

딥페이크 탐지가 현재의 기술 수준으로 100% 가능하지 않은 만큼 포털사이트 등 콘텐츠 유통 플랫폼 기업에 과도한 제재를 가하는 건 부당하다는 의견도 나왔다. 플랫폼에 대한 제재보다는 AI 모델 개발사에 워터마크 의무화 등 기술적 사전예방 조치 부과가 합리적이라는 의견이다.

김승주 고려대 정보보호대학원 교수는 "딥페이크 기술을 100% 탐지하는 것은 기술적으로 불가능하다"며 "플랫폼 기업에 딥페이크 가짜뉴스 유통 책임을 100% 물리는 것은 비합리적"이라고 했다.

김 교수는 플랫폼에 대한 과도한 규제 대신 AI SW(소프트웨어)를 만드는 이들에 적절한 사전 규제를 적용하는 게 옳다고 지적했다.

그는 "선의의 목적으로 대기업이 만든 AI SW에 대해서는 워터마킹 기술을 도입하면 된다. 이에 따르지 않을 경우 대기업을 제재하면 된다"며 "악인들이 대기업의 품질좋은 딥페이크 기술을 손쉽게 구입해 쓰려고 해도 워터마킹을 통해 쉽게 조작된 영상이라는 점을 판별할 수 있다"고 했다.

또 "악의적 목적으로 개인 등이 만든 SW는 정부가 딥페이크 탐지기술을 개발하고 수사인력을 증원해 잡아내면 된다"며 "품질이 조악할 확률이 높기 때문에 워터마킹이 안들어가 있다고 하더라도 탐지할 수 있고 이 과정에서 플랫폼 업체에 기술을 이전하고 협조를 요청할 수 있다"고 했다.

아울러 딥페이크 가짜뉴스 폐해를 줄이기 위해 교육적 해법을 모색해야 한다는 의견도 나왔다. 권 교수는 "딥페이크 범죄 피의자의 절반 이상이 10대로 어렸을 때부터 윤리 교육이 필요하다"며 "정치적·경제적 악용이 범죄행위임을 교육하고 언론을 통한 홍보가 필요하다"고 강조했다.

이 교수 역시 "AI와 같은 정보 네트워크 시대에 가짜정보 생산자를 근원적으로 통제하기는 현실적으로 쉽지 않다"며 "가짜정보를 수용하는 사람들의 심리적 속성을 파악해 이를 토대로 리터러시 교육을 시도하는 게 더 바람직하다"고 했다.

황국상 기자 gshwang@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지