[탐사보도 뉴스프리즘] 딥페이크 음란물 놔뒀다간 'N번방 우후죽순'

[탐사보도 뉴스프리즘] 딥페이크 음란물 놔뒀다간 'N번방 우후죽순'

[오프닝: 이광빈 기자]

안녕하십니까. 이광빈입니다. 우리 사회의 문제점들을 진단하고, 지속가능한 사회를 모색하는 뉴스프리즘 시작합니다. 이번주 뉴스프리즘이 풀어갈 이슈, 함께 보시겠습니다.

[영상구성]

[이광빈 기자]

유명 팝스타 얼굴에 음란물을 입힌 '딥페이크'의 확산은 전 세계를 바짝 긴장하게 만들었습니다. 딥페이크 규제에 대한 필요성이 다시금 수면 위로 떠오른 가운데, 관련 업계들도 앞다퉈 대책 마련에 고심 중입니다. 황정현 기자입니다.

["스위프트도 당했다"…딥페이크 악용에 전 세계 '발칵' / 황정현 기자]

[기자]

팝스타 테일러 스위프트의 얼굴을 합성한 딥페이크 이미지는 소셜미디어 엑스(X)를 중심으로 순식간에 퍼져나갔습니다.

엑스가 차단에 나서기까지 약 19시간 동안 무려 4천700만 회가량 조회된 것으로 파악됐습니다.

<도미닉 리스/딥페이크 전문가>

거의 모든 (딥페이크의) 적용은 합의되지 않은 음란물에 사용됐습니다. 테일러 스위프트 사건은 몇 년간 계속되어 온 일의 추악한 버전입니다.

앞서 배우 톰 행크스도 인공지능으로 만들어진 이미지가 자신도 모르는 사이에 광고에 사용됐다며 주의를 당부했고, 엠마 왓슨과 스칼릿 조핸슨 역시 음란 광고의 주요 피해자로 확인됐습니다.

유명인뿐만이 아닙니다.

누구나 앱만 설치하면 어렵지 않게 제작할 수 있어 일반인들도 표적이 되고 있습니다.

<벤 데커/메메티카 CEO>

연예인뿐만 아니라 일반 대중, 특히 여성을 대상으로 한 노골적인 합성 이미지는 생성형 AI 플랫폼 도입 이후 문제가 되어 왔습니다.

조악하게 제작돼 완성도가 떨어지던 과거와 달리 최근엔 실제와 구분하기 어려울 만큼 자연스러워지면서 AI를 판독해내기가 더욱 힘들어졌습니다.

딥페이크 기반의 가짜 뉴스는 선거판에서 정치적 목적으로 악용되거나 전쟁판을 교란시키기도 했습니다.

이에 중국은 세계 주요국 중 처음으로 딥페이크 기술을 활용할 경우, 워터마크를 붙여 원본을 추적할 수 있게 의무화하는 등의 포괄적 규제 시행에 들어간 상태입니다.

언론의 자유 등에 막혀 주춤했던 미국에서는 스위프트 사건이 기폭제가 되면서 미 정계뿐 아니라 백악관도 나서 규제 필요성을 강조했습니다.

<커린 잔-피에어 / 백악관 대변인>

매우 우려스러운 일입니다. 문제 해결을 위해 할 수 있는 모든 것을 할 것입니다.

유럽연합은 엑스를 첫 소셜미디어 규제법 조사대상에 올리는가 하면, 최근 인공지능 규제법 최종 타협안도 승인했습니다.

이번 스위프트 사건의 주 무대로 지목되며 홍역을 치른 엑스는 단속팀을 신설하고 100명을 추가로 채용하는 등 긴장의 고삐를 바짝 죄는 모습입니다.

연합뉴스TV 황정현입니다

[이광빈 기자]

얼마 전 조 바이든 미국 대통령의 목소리와 똑같은 가짜 음성을 활용한 불법 선거 운동 정황이 포착돼 논란이었는데요. 이처럼 선거철을 앞두고 AI를 활용한 가짜뉴스 확산 우려가 높아지면서 한국을 포함해 전 세계적으로 관련 규제를 강화하고 있습니다. 이은정 기자가 보도합니다.

[허위정보 생산 우려에…AI 선거운동 금지된 총선 / 이은정 기자]

[기자]

<조 바이든 미국 대통령 사칭 가짜 음성 전화>

"이번 화요일 (예비경선에) 투표하는 건 공화당이 원하는대로 트럼프를 후보로 다시 당선시킬 뿐입니다."

언뜻 들으면 조 바이든 미국 대통령의 목소리와 똑같은 이 음성, 사실은 AI로 만들어낸 가짜입니다.

누군가가 바이든 대통령의 목소리를 교묘하게 흉내낸 AI를 통해 예비경선 투표에 참여하지 말라고 독려한 겁니다.

AI를 불법적인 선거 운동 수단으로 악용한 대표적 사례입니다.



"안녕하세요. AI 윤석열입니다. 윤석열 후보와 너무 닮아 놀라셨습니까?"



"저는 이재명 후보와 같은 모습으로 태어난 AI 이재명입니다."

지난 대선에서 선거운동 일환으로 활약했던 AI 윤석열과 AI 이재명.

우리나라 선거에서 처음으로 딥페이크 기술을 활용한 캠페인이었는데, 이번 총선에서는 찾아볼 수 없게 됐습니다.

선거관리위원회가 지난달 29일부터 딥페이크 영상을 활용한 선거 운동을 금지했기 때문입니다.

실제와 구분하기 어려운 조작된 음성으로 유권자에게 불법 선거운동을 할 가능성을 사전에 차단하기 위한 조치입니다.

AI 자동 생성 프로그램을 통한 댓글 규제도 강화됩니다.

선관위는 전담 모니터링 조직을 확대 편성하고, AI 프로그램을 통한 댓글을 발견하면 즉시 수사기관에 통보한다는 방침입니다.

포털 사이트도 감시 체계를 강화합니다.

네이버는 총선 관련 기사에 대한 24시간 모니터링팀을 가동하고, 허위정보가 담긴 댓글에 대한 신고 기능을 적용합니다.

올해는 각국에서 최소 83개의 선거가 열리면서 세계 인구의 절반 가량인 40억명의 유권자가 투표권을 갖는 '지구촌 선거'의 해로 불립니다.

특정 후보의 당선을 막기 위한 악의적인 가짜뉴스가 기승을 부릴 거란 우려가 나오는 이유입니다.

선거를 앞두고 허위 정보를 막기 위한 AI 관련 규제를 강화하고 있는 건 한국뿐만이 아닙니다.

11월 대선을 앞둔 미국에서도 올해 들어서만 최소 13개 주에서 AI를 활용한 허위 정보의 확산을 방지하기 위한 법안 제정이 추진 중입니다.

AI 기술을 악용한 허위 정보 확산을 막아야 한다는 데 전 세계적으로 공감대가 형성되고 있지만, 근본적인 대처 방안에 대해서는 아직 뾰족한 수가 나오지 않고 있습니다.

연합뉴스TV 이은정입니다.

#AI #인공지능 #딥페이크 #선거

[진행자 코너]

앞서 리포트를 통해 딥페이크의 발전에 따른 각종 문제들을 짚어봤습니다. 관련 분야 전문가 모시고 좀 더 이야기를 나눠보겠습니다.

강정수 미디어스피어스 AI연구소장님 안녕하세요

<질문 1> 딥페이크 기술이 생성 AI 발달로 급속히 발전했다고 하는데요. 발전 수준은 어떤가요. 어떤 작업이 새롭게 가능해진 건가요?

<질문 2> 몇 년 전 N번방 사태로 합성 음란물 문제가 사회적인 관심을 끌기는 했습니다만 뾰족한 대책 마련은 없어 보이는데요. 유명인뿐만 아니라 누구나 피해자가 될 수 있는 상황인 거죠? 그렇다면 인공지능을 이용한 딥페이크, 합성 음란물 막을 방책이 있을까요?

<질문 3> 틱톡의 경우 작년 3분기에만 유해 동영상 1억3천600개를 지웠다고 합니다. 그런데 소셜미디어가 실질적으로 유해 콘텐츠를 걸러내는 잣대를 느슨하게 적용하고 있다는 지적도 따르는데요. 필터링을 강력하게 하면 강화되면 서비스가 위축돼 수익에 문제가 생길 수 있다는 점 때문이라는 분석입니다.

<질문 4> 딥페이크가 사회적으로 특정인에 대한 타깃이 될 수 있다는 분석도 나옵니다. 팝스타 스위프트의 경우 국방부 정보원이라는 음모론 등이 판을 쳤는데요. 특정 세력에 의한 혐오의 대상이 되다보니 이런 딥페이크 사건이 터졌다는 평가도 있는데요.

<질문 5> 미국과 유럽 등에서 규제에 나서고 있고, 우리나라도 이번에 선관위가 선거에서 딥페이크 활용을 금지했는데요. 해외의 경우 실효성 있는 규제가 나오고 있나요?

[클로징: 이광빈 기자]

생성형 AI 등장 이후 딥페이크 기술은 이전과 비교할 수 없을 정도로 고도화됐으며, 비전문가도 딥페이크 영상을 손쉽게 만들 수 있게 됐습니다. 기술 수준도 가짜 여부를 단번에 판별하기 어려울 정도로 정밀해졌는데요. 이제는 사람의 눈과 귀로는 진위를 쉽게 가려내지 못하자 이를 이용한 사기 범죄도 잇따르고 있습니다. 이제 역설적으로 AI로 만든 딥페이크 유무를 AI 탐지 기술에 의존해야 하는 현실이 됐습니다. 생성형 AI기술을 악용한 범죄를 막으려면 민간의 식별 기술이나 모니터링으로는 부족합니다. 법적 규제, AI윤리 원칙 확립 등의 대책 마련이 시급한데요.

제도적 규제도 중요하지만 한편으로는 딥페이크가 퍼져나가는 사회 문화에 대해서도 되돌아봐야겠습니다. 상대에 대한 혐오와 증오가 상대를 음해하는 딥페이크를 만들어내 퍼트리는 원천이 되고 있는 건 아닌지 말입니다.

이번주 뉴스프리즘은 여기까지입니다. 시청해주신 여러분 고맙습니다.

#딥페이크 #AI #악용

PD 김효섭

AD 김희정

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)

[저작권자(c) 연합뉴스TV 무단전재 및 재배포 금지]