이미지에 미세노이즈 삽입해 AI 학습·처리 불가능
 |
(라바웨이브 제공) |
(서울=뉴스1) 박혜연 기자 = 주식회사 라바웨이브는 한국과학기술원(KAIST) 사이버보안연구센터와 공동으로 딥페이크 사전예방 기술을 개발했다고 23일 밝혔다.
이 기술은 기존의 사후 탐지 방식을 넘어 딥페이크 생성 자체를 원천적으로 차단하는 선제적 방어 솔루션이다. 글로벌 스마트폰 제조사, 소셜미디어 플랫폼 및 클라우드 서비스 기업 뿐만 아니라 정부 및 공공기관으로부터 관심을 받을 것으로 예상된다.
최근 AI 기술의 급속한 발전과 함께 딥페이크 범죄가 전 세계적으로 급증하면서 일반인부터 연예인, 정치인 등 불특정 다수가 피해를 입고 있다. 한 번 제작돼 유포된 딥페이크 콘텐츠는 완전히 삭제하기가 사실상 불가능하고 피해자의 고통도 회복하기 어렵거나 상당한 기간이 소요될 수 밖에 없는 것이 현실이다.
이번에 개발된 기술은 생성형 AI 기술에 대한 적대적 공격(Adversarial Attack) 기법을 활용해 단순히 딥페이크를 찾아내는 것이 아니라 애초에 딥페이크 결과물이 생성되지 못하도록 원본 이미지를 보호하는 방식을 채택하고 있어 디지털 콘텐츠 보안 분야에서 새로운 전환점을 가져올 것으로 기대된다.
이번 딥페이크 차단 기술은 사람의 눈으로는 인지할 수 없는 수준의 미세한 노이즈를 원본 이미지에 추가해 일반 사용자가 사진을 볼 때는 전혀 차이를 느낄 수 없지만 딥페이크를 생성하는 AI 모델에게는 치명적인 혼란 요소로 작용하도록 설계됐다.
미세 노이즈로 보호된 이미지를 생성형 AI가 학습하거나 처리할 때 심각한 오류를 발생시켜 정상적인 결과물 대신 심각하게 왜곡되거나 콘텐츠로서의 기능을 완전히 상실한 결과물을 생성하기 때문에 딥페이크 범죄를 원천적으로 차단하게 된다는 것이다.
또한 다양한 어플리케이션, 플랫폼 및 디바이스에 즉시 적용이 가능한 범용성을 갖추었다.
김준엽 라바웨이브 대표는 "딥페이크 범죄는 전 세계적인 사회 문제로서 기술적 대응 없이 근본적인 예방과 문제해결이 불가능하다"며 "글로벌 플랫폼과 디바이스 제조사들과의 협력을 통해 더 안전한 디지털 환경을 만드는 데 기여할 것으로 기대한다"고 밝혔다.
KAIST 사이버보안연구센터는 디도스 사태를 계기로 2010년 설립돼 국가 사이버안보를 위한 전략적 R&D를 수행하는 연구기관이다. AI 기반 딥페이크 분석 및 대규모 사이버 범죄 탐지 기술을 개발하는 우리나라 보안 분야의 대표적 연구기관이다.
라바웨이브는 2015년부터 악성앱 분석과 C&C 서버 차단, 불법 영상물 등 유포방지 및 AI 기반 모니터링 시스템 등 관련 최다 특허를 보유하고 이를 기반으로 보이스피싱, 몸캠피싱, 불법 영상물 또는 이미지 모니터링 등 날로 진화하는 디지털 범죄 대응 전문기업이다.
hypark@news1.kr
Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.
이 기사의 카테고리는 언론사의 분류를 따릅니다.