바이든이 트랜스젠더를 모욕한다? 미 대선 'AI 조작 영상 주의보'

[김효진 기자(hjkim@pressian.com)]
2016년 미국 대통령 선거에서 도널드 트럼프 미 전 대통령과 대결한 힐러리 클린턴 미 전 국무장관으로 보이는 이가 영상에서 이번 선거에서 트럼프의 공화당 내 경쟁자인 론 디샌티스 플로리다 주지사를 지지하는 발언을 한다. 성소수자 권리를 지지해 온 조 바이든 미 대통령으로 보이는 이가 영상에서 트랜스젠더를 모욕하는 언사를 쏟아낸다. 이는 내년 미국 대선을 겨냥해 인공지능(AI)을 통해 만들어져 소셜미디어(SNS)를 떠도는 수천 개의 조작된 영상 중 일부에 불과하다.

<로이터> 통신은 30일(현지시각) "2024년 미국 대선이 AI 유행과 충돌하고 있다"며 이러한 허위 정보는 이전에도 존재했지만 생성형 AI 도구의 등장으로 더 쉽고 저렴하게 AI를 이용한 진짜 같은 가짜 이미지·영상·음성을 만들어 내는 것(딥페이크)이 가능해지면서 지난 1년 간 급증했다고 보도했다. 

조작 이미지 및 음성을 탐지하는 도구를 개발하는 회사 딥미디어에 따르면 올 들어 온라인에 게시된 딥페이크 영상은 지난해 같은 기간에 비해 3배, 딥페이크 음성은 8배 늘었다고 통신은 설명했다. 

딥미디어는 올해 50만 건 가량의 딥페이크 영상 및 음성이 소셜미디어에 공유될 것으로 추정했다. 딥미디어는 지난해 말까지 1만 달러(약 1300만 원) 가량 들던 음성 복제 비용이 이제는 몇 달러 수준으로 떨어졌다고 덧붙였다. 몇 천원으로 손쉽게 진짜 같은 조작 음성을 만들어낼 수 있다는 얘기다.

미 정당 홍보물에도 AI를 활용한 조작 영상이 등장하기 시작했다. 미 공화당 전국위원회는 지난달 AI로 조작된 이미지를 사용해 바이든 대통령이 재선에 성공할 경우 경우 중국이 대만을 침공하고 샌프란시스코가 범죄로 봉쇄될 것이라는 내용을 담은 홍보 영상을 공개했다.

정치인 계정에까지 조작된 영상이 올라오며 유권자들이 진위를 파악하는 것은 거의 불가능해졌다. 이달 초 트럼프 전 대통령은 자신의 소셜미디어 계정에 별다른 설명 없이 자신이 출연한 프로그램을 해설하며 미 CNN 방송 진행자가 욕설을 내뱉는 음성을 입힌 허위 영상을 게시했다. 진행자의 말투가 실제와 유사해 입 모양과 말하는 내용이 일치하는지 유심히 살피지 않으면 조작인 것을 알기 어렵다.

미 브루킹스 연구소 기술혁신센터의 대럴 웨스트 선임 연구원은 통신에 "유권자가 조작과 실제를 구별하는 것이 매우 어려워질 것"이라며 "트럼프 지지자 혹은 바이든 지지자가 상대방을 나쁘게 보이게 하기 위해 이 기술을 어떻게 활용할지 상상할 수 있다"고 말했다.

통신은 대형 AI 기업의 경우 관련한 통제 장치를 마련하기도 했다고 설명했다. 챗GPT 개발사 오픈AI는 공인에 대한 가짜 이미지 생성을 막아 실제로 트럼프 전 대통령이나 바이든 대통령 등 주요 대선 주자에 대한 이미지 생성을 AI 도구에 의뢰했을 때 "콘텐츠 정책에 맞지 않는다"며 거부됐다고 통신은 전했다. 그러나 마이크 펜스 전 부통령을 포함한 여러 미국 정치인들에 대한 가짜 이미지 생성은 여전히 가능했다고 통신은 보도했다. 

게다가 중소형 개발사에는 정치 관련 허위 콘텐츠 생성에 대한 명시적 제한이 아직 도입돼 있지 않다. 이에 더해 웨스트 연구원은 "선거 직전 누구도 내릴 기회를 얻기 전 (조작 영상이) 등장할 수 있다"고 우려했다.

이날 샘 올트먼 오픈AI 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 CEO, 케빈 스콧 마이크로소프트(MS) 최고기술책임자(CTO), 최근 AI 위험을 경고하며 구글을 퇴사한 이 분야의 선구자 제프리 힌튼 캐나다 토론토대 컴퓨터과학 교수를 포함한 정보기술(IT) 업계 전문가들은 AI로 인한 사회적 위험 규모를 줄이고자 하는 비영리단체 AI안전센터(CAIS)의 성명에 동참했다.

성명은 "AI로 인한 멸종 위험을 완화하는 것은 핵전쟁과 팬데믹과 같은 다른 사회적 규모의 위험과 함께 전세계적 우선 순위가 되어야 한다"는 한 문장으로 작성됐다.

IT 업계 전문가 외에도 핵과학 및 기후변화 관련 전문가들도 성명에 힘을 보탰다. <AP> 통신은 1989년 저서 <자연의 종말>을 통해 지구 온난화에 대한 경종을 울린 빌 맥키벤이 "35년 전 기후 변화에 대한 초기 경고에 주의를 기울이지 않은 실패"를 생각하면 문제가 손 쓸 수 없게 되기 전에 "실질적으로 생각하는 것이 현명하게 여겨진다"고 성명에 동참한 이유를 밝혔다고 전했다.

▲3월31일 나온 인공지능(AI)이라는 단어를 표시한 이미지. ⓒ로이터=연합뉴스

[김효진 기자(hjkim@pressian.com)]

- Copyrights ©PRESSian.com 무단전재 및 재배포금지 -