입 모양 수상한데? 혈류까지 본다…딥페이크 잡는 보안업계 주목

R&D 나선 보안업계…"안면 판별 AI, 합성 막는 노이즈"

딥페이크 해결 수요에 주가↑…"고품질 이미지 만드는 GAN 추적"

ⓒ News1 김지영 디자이너

(서울=뉴스1) 윤주영 기자 = 지인 등을 음란물에 합성하는 딥페이크 성착취물이 문제가 되자 이를 해결하려는 보안업계의 연구·개발(R&D)도 조명되고 있다.

2일 보안업계에 따르면 최근 딥페이크 사태로 씨유박스(340810), 샌즈랩(411080), 한빛소프트(047080), 라온시큐어(042510) 등 사이버보안 관련주가 한때 10% 내외로 올랐다.

안면 인식, 블록체인·메타데이터 등 보안 기술이 딥페이크 탐지·차단 설루션에 응용될 수 있어서다. 실제로 몇몇 기업은 장기적 목표로 관련 R&D를 진행 중이다.

안면인식 등 생체정보 처리 기술을 갖춘 라온시큐어는 합성 얼굴을 판별하는 인공지능(AI) 설루션을 개발 중이다.

정상 얼굴과 합성 얼굴을 각각 학습한 AI 모델을 대조하는 방식의 설루션이다. 이와 더불어 동영상 추출, 주파수 계열 변화 등을 거치면 부자연스러운 입, 혈류, 피부의 세부 특징 등을 구별할 수 있단 설명이다.

회사는 올 하반기 이를 개인용 모바일 백신 애플리케이션(앱)에 탑재하는 것을 계획 중이다. 또 기업이나 기관서도 쓸 수 있게 앱 프로그래밍 인터페이스(API) 형태로도 제공한다.

합성을 방해하는 '적대적 노이즈'를 미디어 원본에 끼워 넣는 방식도 검토되고 있다.

이로운앤컴퍼니는 이를 활용한 음성 모방(딥보이스) 탐지를 모 대학교와 공동 연구 중이다. 이곳은 지란지교시큐리티(208350) 대표 등을 지낸 윤두식 대표가 세운 생성AI 보안 스타트업이다. 회사는 딥페이크까지 기술을 확장한다는 계획이다.

다만 윤 대표는 "맨눈으로 보기 힘든 미세한 노이즈지만 미디어 원본의 품질 저하를 일으킬 수 있어 적절 임계치를 설정하는 게 관건"이라고 부연했다.

또 윤 대표는 딥페이크 근간이 되는 생성적 적대 신경망(GAN)을 역이용한 설루션이 가능할 거라고 부연했다.

GAN은 생성 AI 네트워크와 판별 AI 네트워크 간 경쟁으로 합성 미디어 품질을 높이는 방식이다. 생성 AI는 무작위 노이즈서 실제와 비슷한 이미지 등을 만들어낸다. 판별 AI는 실제 데이터와의 차이를 따진다.

이런 경쟁을 반복 학습하는 과정서 고품질 합성물이 나온단 설명이다.

여기서 판별AI 네트워크만 따로 떼어내 활용하면 GAN 기반 딥페이크인지 가려낼 수 있다. 과학기술정보통신부도 최근 GAN 탐지 R&D에 10억 원을 투입한다고 밝혔다.

이밖에도 미디어 파일의 생성 날짜 등 메타데이터, 미디어를 공개 블록체인화하는 방안 등이 있을 수 있다. 진위여부 판별용 메타 데이터 DB를 구축하는 것이다.

숙제는 고용량 미디어를 효율적으로 탐지할 수 있는 알고리즘 설계다. 그러면서도 인간이 이해할 수 있게 판별 근거를 AI가 설명할 수 있어야 한다.

윤 대표는 이에 더해 "딥페이크 근간이 되는 GAN 기법이 갈수록 다양해지고 있어 이를 추적하려는 설루션의 노력도 필요하다"고 강조했다.

legomaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.