'딥페이크' 누구나 손쉽게…선거 왜곡 대책은?

<앵커>

최근 AI기술을 활용한 가짜 영상이나 이미지, 딥페이크 콘텐츠가 손쉽게 만들어지고 유포되고 있습니다. 특히, 올해는 우리 총선과 미국 대선 등, 70개 넘는 국가에서 선거가 치러질 예정이라, 부작용 우려가 큽니다.

대책은 없는지 워싱턴에서 남승모 특파원이 취재했습니다.

<기자>

지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.

[바이든 미 대통령 음성 위조 전화 : 말도 안 되는 소리입니다. 11월 대선을 위해 당신의 표를 아끼는 게 중요합니다.]

바이든 미 대통령의 말투를 흉내 낸 가짜였습니다.

팝스타 테일러 스위프트를 딥페이크 기술로 합성한 음란물이 유포되기도 했습니다.

AI 기술 발달로 이제는 인터넷에 공개된 프로그램만으로도 손쉽게 가짜 콘텐츠를 만들 수 있습니다.

그럼 누구나 접속할 수 인터넷 사이트를 통해 제가 말하는 모습을 트럼프 전 대통령이 말하는 것처럼 만들어 보겠습니다.

트럼프 사진 한 장으로 단 몇 분 만에 만들어낸 초보적인 수준의 영상이지만 고개 움직임과 눈 깜빡임까지 구현해냅니다.

[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 개인이 기성 도구를 사용해 딥페이크 영상을 제작할 수 있습니다. 음성 딥페이크의 경우, 약 30초 분량의 동영상만 있으면 충분히 만들 수 있습니다.]

조작을 눈치채도, 노출자에게 잠재적 영향을 미칠 수 있습니다.

[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 사람들이 어느 정도 딥페이크라고 생각한다고 해서 그들이 딥페이크가 전달하는 메시지를 잊어버리는 것은 아닙니다.]

특히 정치 양극화가 심할 경우, 딥페이크가 일부 중도층 표심만 흔들어도 선거 결과를 왜곡할 수 있다고 경고합니다.

지난해 튀르키예 대선 당시, 테러 집단이 야당 후보를 지지한다는 딥페이크 영상, 슬로바키아 총선 때 퍼진 야당 대표의 금권 선거 논의 가짜 음성파일은 선거에 영향을 미친 실제 사례로 꼽힙니다.

딥페이크를 막기 위해서는 탐지 기술만으로는 한계가 있는 만큼 내용 왜곡을 걸러낼 선거 전문가 등과의 협업이 필요합니다.

[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 탐지 기술의 강·약점을 이해하고 이에 더해 발언의 맥락을 파악해서 이 두 가지를 함께 고려하는 방식으로 조작 여부를 판단해야 합니다.]

빅테크 기업들은 유권자가 속을 위험이 있는 콘텐츠를 감지해, 식별 표시를 하기로 하는 등 보완 대책을 내놓고 있습니다.

우리나라는 이번 총선을 시작으로 선거일 90일 전부터, 딥페이크를 이용한 선거운동이 전면 금지됩니다.

(영상취재 : 박은하, 영상편집 : 김진원)

남승모 기자 smnam@sbs.co.kr

▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보

Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

<앵커>

최근 AI기술을 활용한 가짜 영상이나 이미지, 딥페이크 콘텐츠가 손쉽게 만들어지고 유포되고 있습니다. 특히, 올해는 우리 총선과 미국 대선 등, 70개 넘는 국가에서 선거가 치러질 예정이라, 부작용 우려가 큽니다.

대책은 없는지 워싱턴에서 남승모 특파원이 취재했습니다.

<기자>

지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.