[이광빈의 플랫폼S] 딥페이크, 韓총선엔 미풍…美대선엔 태풍 될 까닭은

선관위, 총선 과정서 문제 딥페이크 391건 적발…대부분 삭제 요청

오픈AI, '미 대선에 악용될까' AI 음성 서비스 출시 미뤄

미국엔 저가 도구 확산…월 3만원 정도면 이용

[※ 편집자 주 : 지속가능한(sustainable) 사회를 위한 이야기들을 담아낸 '플랫폼S'입니다. 지속가능과 공존을 위한 테크의 역할과 기후변화 대응, 이와 관련한 사회적 갈등 조정 문제 등에 대한 국내외 이야기로 찾아갑니다.]

'딥페이크'(deepfake) (PG) [장현경 제작] 일러스트

(서울=연합뉴스) 이광빈 기자 = '딥페이크' 등 인공지능(AI) 기술을 활용한 조작물로 4·10 총선이 혼탁해질 수 있다는 우려는 기우에 그쳤다.

선거를 앞두고 단계 높은 '경보'가 내려진 것을 감안하면 사뭇 다른 결과다.

총선 며칠 전에는 마이크로소프트(MS) 위협분석센터(MTAC)는 중국 측이 AI로 정보를 조작해 한국 총선에 개입할 수 있다고 경고하기도 했다.

가뜩이나 아르헨티나와 방글라데시 등이 앞서 치른 선거에서 딥페이크 등 AI 조작물이 문제시되기도 했다.

미국에서도 도널드 트럼프 전 대통령이 경찰에 체포되는 합성 이미지, 그리고 조 바이든 대통령의 음성을 조작해 예비경선 투표 거부를 독려한 전화 사건 등이 잇따라 발생한 터였다.

특히 팝스타 테일러 스위프트에 대한 딥페이크 음란 영상 유포 사건은 급속히 발전한 AI 기술이 선거에 영향을 미칠 수 있다는 우려에 불을 지폈다.

그런데도 막상 한국 총선에서 딥페이크 논란이 거의 없었던 이유는 무엇일까.

강정수 미디어스피어 AI연구센터장은 통화에서 "중앙선관위가 강력히 경고한 점도 영향을 미쳤고, 아직 국내 일상에서 AI 활용도가 높지 않은 측면이 반영됐다"고 분석했다.

제 22대 총선 과정에서 사이버선거범죄 근절 퍼포먼스 하는 경기도선관위 [수원=연합뉴스]

◇ 사전 법제도 정비 효과…한국선 'AI 툴' 확산 아직은

대외적으로 경고음이 커서인지, 이번 총선에서 AI 조작물에 대한 대비 작업은 비교적 일찍 이뤄지기 시작했다.

국회는 지난해 말 공직선거법을 개정해 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지했다. 중앙선거관리위원회는 총선 과정에서 전담팀을 구성해 딥페이크 조작물 식별 등에 나섰다.

20일 중앙선관위에 따르면, 지난 1월 10일부터 국내에 서비스 중인 온라인 플랫폼에서 관련 딥페이크 적발 건수는 총 391건에 달했다. 이 가운데 388건에 대해선 각 플랫폼에 삭제 요청을 했고, 국내 플랫폼에선 대부분 삭제 조치가 이뤄졌다.

주요 정치인이 실제로 하지 않은 발언을 입힌 딥페이크 영상 등이 모니터링에 걸려들었다고 선관위 측은 설명했다.

앞서 네이버와 카카오 등 국내 플랫폼은 자체 신고센터를 운영하고 관련 모니터링도 실시했다. 딥페이크 관련 검색어를 입력할 때는 주의 문구가 나타나도록 했다.

카카오는 AI 이미지 생성 모델인 '칼로'에 AI 활용 영상임을 알려주는 워터마크를 넣기도 했다. 악의적인 딥페이크를 사용자가 쉽게 인지할 수 있도록 하는 조치다. 자칫 선거 과정에서 딥페이크물 논란이 번진다면 해당 플랫폼 측에 거센 후폭풍이 따를 가능성이 컸던 만큼, 신경을 곤두세울 수밖에 없었다.

오픈AI DLALWL [AP=연합뉴스]

◇ 미 대선서 비난 뒤집어쓸까 봐…몸 사리는 빅테크들

그러면 오는 11월 미국 대선은 어떨까. 우리 총선과는 양상이 확연히 다를 확률이 높다.

미국 AI와 소셜네트워크 빅테크들도 올해 11월 대선을 앞두고 노심초사하고 있다. 지난 2월 독일 뮌헨안보회의에선 구글과 마이크로소프트, 메타, 오픈AI가 이 문제로 머리를 맞댔다. 이들 기업은 AI가 각국 선거에서 유권자를 속이는 데 활용되지 않도록 노력하기로 합의했다. 이른바 'AI 선거협정'이다.

실행 방안으로 구글과 메타 등은 AI 생성 콘텐츠에 워터마크를 부착해 이용자들이 인식하도록 했다.

이미 빅테크들은 AI 서비스의 오류와 악용으로 비싼 수업료를 치르고 있는 터였다.

구글은 지난 2월 1일 AI 서비스 '제미나이'에 이미지 생성 기능을 야심 차게 추가했다가 인종차별적 결과물 논란이 빚어지자 20여일 만에 해당 서비스를 중단했다. 주가 하락과 기업 이미지 훼손 등의 타격이 뒤따랐다.

이에 앞서 구글은 제미나이에서 선거와 관련 질문에 대한 답변을 제한하기도 했다.

더구나 생성 AI 시대를 열어젖히고 거침없이 추가 서비스를 출시해온 오픈AI가 음성 학습 AI 도구의 출시를 아예 연기하기로 했다는 소식이 얼마 전에 외신을 통해 들려왔다.

오픈AI가 최근 공개한 '보이스 엔진'은 15초 분량의 사람 음성 샘플만 있으면 비슷한 음성을 만들어낼 수 있는 기능을 갖췄다. 오픈AI는 어린이 교육과 언어 기능 질환자 등을 위해 유용한 서비스를 만들어 낼 것으로 기대했지만, 미 대선 과정에서 악용될 수 있다는 점에서 일보 후퇴했다.

외신에 따르면 오픈AI는 "사람 목소리를 닮은 음성의 생산은 심각한 위험을 야기하며, 선거가 있는 해에는 특히 더 그렇다는 점을 인지하고 있다"고 설명했다.

빅테크들이 낮은 자세를 취하는 건 그만큼 미 대선에서 딥페이크물이 판을 쳐 문제를 야기할 것이라는 전망이 지배적인 측면이 크다. 자사 서비스가 조작물의 기반이 됐다가는 사회적, 정치적 비난을 뒤집어쓸 수 있는 점을 우려하는 셈이다.

이미 테일러 스위프트 등 많은 스타가 딥페이크 영상의 희생양이 된 미국 사회에서는 저렴한 가격의 딥페이크 툴이 퍼져 있다. 한화로 약 월 3만원 정도면 관련 툴을 이용할 수 있다. 기존 구독자 중 일부만 대선 과정에서 악용 목적으로 딥페이크물을 생산해 유포하면 혼란은 필연적이다.

물론 선거 과정에서 딥페이크물이 모두 부정적이지 않을 수 있다. AI 기술과 딥페이크물의 긍정적인 사용방식과 효과는 다음 '플랫폼S' 편에서 짚어보겠다.

#이광빈의_플랫폼S #딥페이크 #총선 #미국_대선 #테일러_스위프트

lkbin@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>