딥페이크에 몸살 앓는 전세계 선거…총선 앞둔 韓 "AI 감별반 운용"

미드저니·메타 등 빅테크 기업들 "딥페이크 자체 감시·워터마크 도입 등"

한국 선관위 "전담 감시인력 운용"…뉴스 서비스 양대 포털 "신고 협조"

론 디샌티스 캠프에서 지난 5일(현지시간) 트위터에 게재한 영상. 도널드 트럼프 전 대통령이 코로나19 방역을 총괄한 앤서니 파우치 전 국립알레르기·전염병연구소장(NIAID)을 껴안는 사진은 인공지능(AI)이 합성한 가짜인 것으로 드러났다. 2023.6.5.

(서울=뉴스1) 윤주영 기자 = 11월 미국 대선 등 주요 선거가 다가오자 글로벌 빅테크 기업들이 인공지능(AI)이 생성한 허위 이미지·영상인 '딥페이크' 관련 대비책을 마련 중이다. 총선까지 50여일이 남은 한국 또한 중앙선거관리위원회와 양대 포털들이 모니터링 체계를 마련해 대응 중이다.

14일 외신을 종합하면 딥페이크물은 각국 주요 선거에서 흑색선전으로까지 사용된다.

뉴욕 타임즈에 따르면 지난해 11월 아르헨티나 대선에서 하비에르 밀레이 대통령과 세르히오 마사 후보는 서로를 딥페이크 이미지로 비방했다. BBC에 따르면 지난해 3월에는 수갑을 찬 도널드 트럼프 미국 전 대통령의 딥페이크 이미지가 온라인상에 유포됐다.

딥페이크는 유권자에게 상황을 왜곡할 수 있다는 우려도 있다. 미드저니 등 글로벌 AI기업들은 이에 대응하는 솔루션을 내놓고 있다.

데이비드 홀츠 미드저니 창업자는 향후 1년간 도널드 트럼프, 조 바이든 미국 대통령 등의 이미지가 포함된 정치적 이미지 생성을 막을 예정이다. 인스타그램, 스레드 등 사회관계망서비스(SNS)를 운영하는 메타도 향후 몇달 안으로 AI 생성 이미지임을 표기하는 워터마크를 도입할 것이라 공지했다.

구글 또한 지난해 AI 이미지임을 보여주는 비가시성 워터마크 '신스ID'의 베타 버전을 공개했다.

국내도 오는 4월 총선이 다가오면서 선관위와 네이버·카카오 등 포털 사이트가 적극 대응에 나서고 있다.

지난달 29일부터 선관위는 딥페이크물 관련 AI감별반 및 시·도별 전담인력을 운용 중이다.

지난해 12월 개정된 공직선거법의 신설조항을 반영한 것이다. 조항에 따르면 선거운동에 활용될 수 있는 딥페이크물의 제작·편집·유포·상영 등은 일괄 금지된다. 금지기간은 선거 90일 전부터 선거 당일까지다.

조항을 위반할 경우 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다.

이에 더해 선관위는 지난해부터 뉴스가 유통되는 주요 포털 및 수사기관과 핫라인을 구축해 총선 관련 가짜뉴스에도 대응 중이다.

다음 뉴스를 운영하는 카카오(035720)는 뉴스 메인 페이지에 선관위 허위정보 신고센터 배너를 마련했다. 인터넷선거보도심의위원회의 불공정 선거보도 경고∙주의를 받은 기사들은 페이지 내 별도로 정리해뒀다.

네이버(035420)도 AI 생성 댓글, 딥페이크 등 신규 어뷰징 패턴을 지속적으로 감시 및 업데이트한다고 했다.

장병탁 서울대 AI연구원장은 "현재 기술 수준으로 딥페이크의 제작 및 유통을 원천 차단하긴 어렵다"며 "메타 등이 도입한 디지털 워터마크가 솔루션이 될 수 있을 것"이라고 말했다.

제22대 국회의원선거 90여일 앞둔 10일 경기 수원시 영통구 경기도선거관리위원회 사이버공정선거지원단실에서 관계자들이 사이버선거범죄 근절 퍼포먼스를 실시하고 있다. 2023년 12월28일 개정된 공직선거법에 따라 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다. 다만 부칙에 따라 공포 후 1개월이 경과한 오는 29일부터 금지된다. 2024.1.10/뉴스1 ⓒ News1 김영운 기자

legomaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.