"딥 페이크 영상 꼼짝마"…국내 연구진, 위·변조 탐지 앱 개발

[경향신문]

‘딥 페이크’ 동영상을 잡아내는 과정. 눈, 코, 입, 얼굴 윤곽 등의 기하학적 오차 흔적을 분석한다. 카이스트 제공

국내 연구진이 인공지능을 활용해 가짜 동영상과 사진을 탐지하는 모바일 앱을 개발했다.

KAIST(카이스트) 전산학부 이흥규 교수팀은 다른 사람의 얼굴을 특정 인물의 동영상에 입힌 ‘딥 페이크’와 위조나 변조된 허위 사진을 잡아내는 모바일 앱을 개발해 보급을 시작했다고 30일 밝혔다.

연구팀이 ‘카이캐치(KaiCatch)’로 이름 붙인 이 앱은 인공지능 기술이 적용돼 작동한다. 딥 페이크로 의심되는 동영상 속 인물의 코나 입, 얼굴 윤곽 등을 기하학적으로 분석해 왜곡이 발생했는지 탐지한다. 딥 페이크는 엉뚱한 사람의 얼굴을 특정인에게 합성한 영상인데, 가짜 뉴스로 활용돼 사회적 혼란을 일으키거나 음란물 제작에 쓰여 개인 인권을 침해한다. 카이캐치는 딥 페이크 가능성을 0~100%로 수치화해 사용자에게 제시한다고 연구진은 밝혔다.

사진의 경우 BMP, TIF 등 다양한 형태의 파일을 분석해 위·변조가 의심되면 사용자가 눈으로 쉽게 알아볼 수 있도록 색상으로 표시한다. 위변조 가능성이 있는 사진 속 영역의 색상을 주변과 다르게 표시해 일반인이 쉽게 판별하도록 한 것이다.

카이캐치는 현재 구글스토어에서 내려받아 분석을 원하는 동영상이나 사진을 앱에 올리는 방식으로 사용한다. 대략 하루에서 사흘 안에 가짜 여부를 확인할 수 있다. 이흥규 교수는 “예측하지 못한 변형 기법을 써도 90% 내외의 높은 신뢰도로 탐지를 해낸다”며 “앞으로 애플 운영체제에서도 사용할 수 있도록 하고 영어와 중국어, 일어 형태로도 출시할 것”이라고 말했다.

이정호 기자 run@kyunghyang.com

▶ [인터랙티브] 여성, 외치다
▶ 경향신문 바로가기
▶ 경향신문 구독신청하기

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지