선관위 “‘AI 윤석열’, 내용이 거짓이거나 ‘딥페이크’ 표기 없으면 ‘선거법 위반’”

‘딥페이크 표기’ 없으면 “유권자 오해…위법”

AI윤석열이 허위사실 유포하면 “선거법 위반”

“방송연설 주체는 후보자…AI윤석열 안 돼”

국민의힘이 지난해 12월 선대위 출범식에서 공개한 딥페이크 영상인 'AI 윤석열'

[헤럴드경제=유오상 기자] 인공지능(AI)과 딥러닝(deep learnig) 기술에 기반해 제작된 가짜(fake) 동영상인 ‘AI윤석열’을 두고 중앙선거관리위원회가 가이드라인을 내놨다. 공직선거법 위반 논란에 대해 선관위는 “딥페이크 영상을 이용해 선거운동을 할 수는 있다”면서도 “딥페이크임을 표시하지 않아 유권자를 오해하게 하는 경우에는 선거법 위반이 될 수 있다”고 지적했다.

선관위는 12일 송기헌 더불어민주당 법률지원단장의 딥페이크 선거운동 관련 질의에 “딥페이크 영상은 공직선거법상 동영상의 일종으로, 선거운동을 할 수 있는 사람이 법상 허용되는 방법으로 딥페이크 영상을 이용해 선거운동을 할 수 있다”면서도 “딥페이크 영상임을 표시하지 않는 경우, 선거인이 후보자의 행위로 오인하게 돼 선거법에 위반된다”고 답했다.

선관위는 이에 더해 제3자가 후보자의 동의 없이 딥페이크 영상을 제작하고 활용하는 경우에 대해서도 ‘진실에 반하는 신분의 표시’에 해당되기 때문에 공직선거법상 허위표시죄에 해당한다고 판단했다. 딥페이크 기술을 이용해 상대 후보인 척 허위 정보를 유포하는 경우를 염두에 둔 것으로 풀이된다.

실제로 정치권의 딥페이크 영상 논란이 불거졌던 미국과 유럽은 선거에 딥페이크 영상을 활용하는 것을 법으로 금지하고 있다. 실제 후보가 하지도 않은 발언이 딥페이크 영상으로 제작돼 공유되는 등 악용 사례가 늘자 법으로 금지한 것이다.

또 선관위는 “영상물의 내용이 특정 후보자의 당선 또는 낙선을 목적으로 후보자, 후보자의 배우자 또는 직계존비속이나 형제자매 등에 관하여 허위사실공표 및 비방에 해당하는 경우에는 허위사실공표죄와 후보자비방죄에 해당할 수 있다”며 사용을 엄격히 제한했다. AI 아바타가 허위 사실을 언급할 경우, 이를 게시한 후보 역시 허위사실공표죄에 해당할 수 있다는 것이다.

이에 따라 국민의힘이 ‘AI윤석열’을 이용해 선거운동을 할 경우에는 영상마다 딥페이크 영상임을 표기해야만 한다. 현재까지는 별다른 표기가 없었지만, 앞으로는 선거법 위반에 해당할 수 있기 때문이다.

또 정치권에서 우려됐던 방송연설에서의 딥페이크 영상 활용은 원천 금지됐다. 선관위는 “방송연설의 주체는 후보자 본인이기 때문에 후보자를 대신해 딥페이크 영상을 방영할 수는 없다”고 명시했다. 거리 유세에서 전광판을 이용해 AI윤석열 영상을 게시하는 경우에는 ‘딥페이크 영상’ 표기를 하는 조건으로 게시가 허용된다.

앞서 국민의힘은 지난해 12월 선대위 출범에 맞춰 딥페이크 영상 기술을 활용한 ‘AI윤석열’을 공개했다가 ‘선거법 위반’ 비판을 받았다. 방송통신위원회 상임위원을 지낸 고삼석 동국대 석좌 교수는 “딥페이크 기술을 적용해 윤 후보의 아바타를 도입한 목적은 뻔하다. 도리도리, 쩍벌 등 후보의 좋지 않은 이미지와 부족한 언변을 속이기 위한 거 아닌가, 이미지 세탁 아닌가”라고 지적했고, 조승래 민주당 선대위 수석대변인은 “윤 후보가 토론장에서 직접 자신의 정견을 설명하고 국정 비전을 제시하기를 국민께서는 바란다”고 비판했다.

‘AI윤석열’을 내세운 윤 후보와 달리 이재명 더불어민주당 대선후보는 악의적 딥페이크 처벌 공약을 통해 “미국 대선 투표 독려 김정은 위원장 합성 영상, 트럼프 대통령을 비난하는 가짜 오바마 대통령 영상 사례처럼 딥페이크 가짜뉴스는 당장 이번 우리 대선에서도 유권자의 선택을 왜곡할 수 있는 심각한 위협”이라며 “우리 대선에도 ‘악의적 딥페이크 가짜영상’이 난무하지 않도록 플랫폼 기업들의 민간 자율규제 강화를 요구하겠다”고 밝혔다.

osyoo@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.