<앵커>
인공지능 기술이 발달하면서 이제는 누구나 가짜 영상이나 이미지를 만들어낼 수 있게 됐죠. 올해 전 세계 70여 개국에서 선거가 치러지는데, 혹시나 이런 기술이 선거에 악용되지는 않을지 우려가 커지고 있습니다.
대책은 없는지, 워싱턴 남승모 특파원이 취재했습니다.
<기자>
지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.
[바이든 미 대통령 음성 위조 전화 : 말도 안 되는 소리입니다. 11월 대선을 위해 당신의 표를 아끼는 게 중요합니다.]
바이든 미 대통령의 말투를 흉내 낸 가짜였습니다.
팝스타 테일러 스위프트를 딥페이크 기술로 합성한 음란물이 유포되기도 했습니다.
AI 기술 발달로 이제는 인터넷에 공개된 프로그램만으로도 손쉽게 가짜 콘텐츠를 만들 수 있습니다.
그럼 누구나 접속할 수 인터넷 사이트를 통해 제가 말하는 모습을 트럼프 전 대통령이 말하는 것처럼 만들어 보겠습니다.
트럼프 사진 한 장으로 단 몇 분 만에 만들어낸 초보적인 수준의 영상이지만 고개 움직임과 눈 깜빡임까지 구현해냅니다.
[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 개인이 기성 도구를 사용해 딥페이크 영상을 제작할 수 있습니다. 음성 딥페이크의 경우, 약 30초 분량의 동영상만 있으면 충분히 만들 수 있습니다.]
조작을 눈치채도, 노출자에게 잠재적 영향을 미칠 수 있습니다.
[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 사람들이 어느 정도 딥페이크라고 생각한다고 해서 그들이 딥페이크가 전달하는 메시지를 잊어버리는 것은 아닙니다.]
특히 정치 양극화가 심할 경우, 딥페이크가 일부 중도층 표심만 흔들어도 선거 결과를 왜곡할 수 있다고 경고합니다.
지난해 튀르키예 대선 당시, 테러 집단이 야당 후보를 지지한다는 딥페이크 영상, 슬로바키아 총선 때 퍼진 야당 대표의 금권 선거 논의 가짜 음성파일은 선거에 영향을 미친 실제 사례로 꼽힙니다.
딥페이크를 막기 위해서는 탐지 기술만으로는 한계가 있는 만큼 내용 왜곡을 걸러낼 선거 전문가 등과의 협업이 필요합니다.
[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 탐지 기술의 강·약점을 이해하고 이에 더해 발언의 맥락을 파악해서 이 두 가지를 함께 고려하는 방식으로 조작 여부를 판단해야 합니다.]
빅테크 기업들은 유권자가 속을 위험이 있는 콘텐츠를 감지해, 식별 표시를 하기로 하는 등 보완 대책을 내놓고 있습니다.
우리나라는 이번 총선을 시작으로 선거일 90일 전부터, 딥페이크를 이용한 선거운동이 전면 금지됩니다.
(영상취재 : 박은하, 영상편집 : 김진원)
남승모 기자 smnam@sbs.co.kr
▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보
Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
인공지능 기술이 발달하면서 이제는 누구나 가짜 영상이나 이미지를 만들어낼 수 있게 됐죠. 올해 전 세계 70여 개국에서 선거가 치러지는데, 혹시나 이런 기술이 선거에 악용되지는 않을지 우려가 커지고 있습니다.
대책은 없는지, 워싱턴 남승모 특파원이 취재했습니다.
<기자>
지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.
[바이든 미 대통령 음성 위조 전화 : 말도 안 되는 소리입니다. 11월 대선을 위해 당신의 표를 아끼는 게 중요합니다.]
바이든 미 대통령의 말투를 흉내 낸 가짜였습니다.
팝스타 테일러 스위프트를 딥페이크 기술로 합성한 음란물이 유포되기도 했습니다.
AI 기술 발달로 이제는 인터넷에 공개된 프로그램만으로도 손쉽게 가짜 콘텐츠를 만들 수 있습니다.
그럼 누구나 접속할 수 인터넷 사이트를 통해 제가 말하는 모습을 트럼프 전 대통령이 말하는 것처럼 만들어 보겠습니다.
트럼프 사진 한 장으로 단 몇 분 만에 만들어낸 초보적인 수준의 영상이지만 고개 움직임과 눈 깜빡임까지 구현해냅니다.
[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 개인이 기성 도구를 사용해 딥페이크 영상을 제작할 수 있습니다. 음성 딥페이크의 경우, 약 30초 분량의 동영상만 있으면 충분히 만들 수 있습니다.]
조작을 눈치채도, 노출자에게 잠재적 영향을 미칠 수 있습니다.
[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 사람들이 어느 정도 딥페이크라고 생각한다고 해서 그들이 딥페이크가 전달하는 메시지를 잊어버리는 것은 아닙니다.]
특히 정치 양극화가 심할 경우, 딥페이크가 일부 중도층 표심만 흔들어도 선거 결과를 왜곡할 수 있다고 경고합니다.
지난해 튀르키예 대선 당시, 테러 집단이 야당 후보를 지지한다는 딥페이크 영상, 슬로바키아 총선 때 퍼진 야당 대표의 금권 선거 논의 가짜 음성파일은 선거에 영향을 미친 실제 사례로 꼽힙니다.
딥페이크를 막기 위해서는 탐지 기술만으로는 한계가 있는 만큼 내용 왜곡을 걸러낼 선거 전문가 등과의 협업이 필요합니다.
[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 탐지 기술의 강·약점을 이해하고 이에 더해 발언의 맥락을 파악해서 이 두 가지를 함께 고려하는 방식으로 조작 여부를 판단해야 합니다.]
빅테크 기업들은 유권자가 속을 위험이 있는 콘텐츠를 감지해, 식별 표시를 하기로 하는 등 보완 대책을 내놓고 있습니다.
우리나라는 이번 총선을 시작으로 선거일 90일 전부터, 딥페이크를 이용한 선거운동이 전면 금지됩니다.
(영상취재 : 박은하, 영상편집 : 김진원)
남승모 기자 smnam@sbs.co.kr
▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보
Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
<앵커>
인공지능 기술이 발달하면서 이제는 누구나 가짜 영상이나 이미지를 만들어낼 수 있게 됐죠. 올해 전 세계 70여 개국에서 선거가 치러지는데, 혹시나 이런 기술이 선거에 악용되지는 않을지 우려가 커지고 있습니다.
대책은 없는지, 워싱턴 남승모 특파원이 취재했습니다.
<기자>
지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.
인공지능 기술이 발달하면서 이제는 누구나 가짜 영상이나 이미지를 만들어낼 수 있게 됐죠. 올해 전 세계 70여 개국에서 선거가 치러지는데, 혹시나 이런 기술이 선거에 악용되지는 않을지 우려가 커지고 있습니다.
대책은 없는지, 워싱턴 남승모 특파원이 취재했습니다.
<기자>
지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.
