경찰, 딥페이크 10분내 잡는다… 총선 앞 집중 단속

데이터 520만건 학습한 SW 개발

진위 80% 탐지… 곧바로 수사 활용

尹대통령 조작 영상, 짜깁기 결론

뉴시스

최근 유튜브에는 유명 정치인 2명이 올해 4·10총선에 출마하는 후보자를 비난하고 특정 정당을 조롱하는 ‘쇼츠’(짧은 길이의 영상)가 올라왔다. 영상 속 정치인들의 얼굴과 목소리는 실제 정치인과 똑같았지만 중앙선거관리위원회(선관위)가 확인해 보니 인공지능(AI)을 활용한 딥페이크(이미지 조작)로 드러났다.

경찰청 국가수사본부가 딥페이크 영상을 5∼10분 만에 판가름하는 탐지 소프트웨어를 개발했다고 5일 밝혔다. 경찰은 총선을 앞두고 이를 활용해 조작 영상 단속에 나설 계획이다.

경찰이 제공한 시연 영상을 보면, 탐지하고자 하는 영상파일을 소프트웨어에 올리면 분석이 시작된다. 5∼10분이 지나면 △진위 △변조율 △합성 유형(어떤 유형의 딥페이크인지를 판별) 등 종합 결과를 보여준다. 예를 들어 “변조율 76%로, ‘페이스 스왑’(영상 등에서 얼굴을 인식하고 교체하는 AI 기술)이 활용된 가짜 영상”이라는 결과가 나오는 식이다. 이 소프트웨어는 판별이 완료됨과 동시에 결과보고서를 만들어내기 때문에 경찰은 수사에 곧바로 활용할 수 있다고 설명했다.

경찰은 이번에 개발한 소프트웨어가 기존 모델과 달리 한국인 데이터에 초점을 두고 학습했다는 점에서 활용도가 높을 것으로 보고 있다. 경찰 관계자는 “한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건 등 한국인과 관련한 인물 5400명의 데이터 520만 건을 바탕으로 다양한 학습이 이뤄졌다”고 설명했다. 경찰은 다만 해당 소프트웨어의 진위 탐지율은 약 80%인 점을 감안해, 증거 자료보다는 수사 방향을 설정하는 자료로 활용할 예정이다.

경찰은 실제 이 프로그램을 활용해 지난달 윤석열 대통령의 연설로 조작된 영상이 딥페이크가 아닌 짜깁기 방식으로 만들어졌다는 결론을 내리기도 했다. 경찰 관계자는 “딥페이크는 아니지만, 선거에 영향을 줄 가능성이 크다는 점에서 정보통신망법상 명예훼손이나 모욕 혐의 등을 적용해 수사하게 될 것으로 보인다”고 설명했다. 이 영상은 올 들어 동영상 플랫폼 틱톡 등에서 빠르게 확산됐다.

경찰은 딥페이크 탐지 프로그램 도입에 따라 향후 관련 수사에 속도가 붙을 것으로 기대했다. 앞서 선관위는 1월 29일부터 2월 20일까지 22일간 딥페이크를 이용한 선거운동으로 공직선거법을 위반한 게시물 총 129건을 적발한 바 있다. 선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지하는 개정 공직선거법이 1월 29일 시행됐다.

송유근 기자 big@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지