AI시대 딜레마 '딥페이크'..."범죄 예방 위해선 교육·규제·기술 혁신해야"

이정수 딥브레인 AI 이사가 15일 서울 엘타워에서 열린 ‘2025 정보통신기술(ICT) 산업전망 학술대회(컨퍼런스)’에서 발표를 하고 있다. [사진=정보통신기획평가원]

미국 사이버 보안 기업 시큐리티 히어로(Security Hero)의 조사결과에 따르면 딥페이크 관련 음란물 제작 1위 국가는 한국이며, 딥페이크 성착취물에 이용된 상위 10명의 가수 중 8명이 한국인 가수인 것으로 나타났다. 특히 딥페이크 성범죄의 80%가 10대에서 발생하는 상황에서 교육·규제·기술 세 가지 측면에서의 딥페이크 피해 방지 방안이 동시에 마련돼야 한다는 지적이 나왔다.

이정수 딥브레인 AI 이사는 15일 서울 엘타워에서 열린 ‘2025 정보통신기술(ICT) 산업전망 학술대회(콘퍼런스)’에서 “페이스북이 딥페이크 영상 탐지기술을 1000만 달러를 투입해 연구를 시작한 2019년부터 미리 선제적으로 준비했다면 현재와 같은 사회적 이슈가 발생하지는 않았을 것”이라며 이같이 밝혔다.

이날 ‘딥페이크 범죄인가, 혁신인가’라는 주제로 발표한 이 이사는 “엔터테인먼트, 정치, 교육, 금융분야에서 다양한 딥페이크 범죄 사례가 나타나고 있다”며 “아쉬운 부분들은 포털사이트에서 딥누드라든가, AI누드 관련 성적 키워드를 검색했을 때 수많은 사이트가 나오고, 특별한 가입절차 없이 딥페이크 영상을 만들 수 있어 피해사례가 급증하고 있다”고 말했다.

이 이사는 딥페이크 범죄 피해 사례를 줄이기 위해서는 △교육강화 △규제강화 △기술개발 세 가지 측면이 동시에 진행돼야 한다고 주장했다.

먼저 교육강화 부문과 관련해 “청소년 딥페이크 범죄 사례가 많은 만큼 윤리교육, 딥페이크 정의와 작동 원리교육 및 딥페이크 구별 방안을 교육하고, 처벌 사례를 숙지시켜야 한다”고 말했다. 규제관련 부문은 AI를 활용한 딥페이크 아동 성착취물을 제작하거나, 보유했을 때 불법으로 규정하는 부분들이 좀 필요하다고 강조했다. 또 딥페이크 영상 이미지 생성 시 관련 표기를 규정화하는 부분들이 필요하며, 소셜미디어 플랫폼 업체 기업들이 사용자가 딥페이크 영상을 올리기 전에 사전에 탐지해서 못 올리게 하는 규제가 마련돼야 한다고 제안했다.

기술개발 부문에서는 딥페이크 영상 이미지를 탐지할 수 있는 기술, 음성 ‘딥보이스’를 탐지할 수 있는 기술개발과 함께 워터마킹 삽입 기술의 중요성을 강조했다.

이 이사는 무엇보다도 딥페이크를 선제적으로 자동검색하고 삭제하는 기술개발이 필요하다며, 딥브레인 AI가 이와 관련한 핵심 솔루션을 개발해나가고 있다고 했다.

이 이사는 “딥페이크 범죄 방지 솔루션의 핵심이라고 보는 기능들은 △인물이나 키워드 기반 특정인물을 탐지할 수 있는 기능 △다양한 사회관계망서비스(SNS)에서 영상, 이미지, 음성을 AI가 탐지할 수 있는 기능 △인간이 아닌 AI가 24시간 모니터링하는 기능 △이에 대한 결과물을 분석리포트로 제공하는 기능들이 필요하다”며 “AI스타트업 하나가 모든 기술에 대해 대응하기는 어려운 만큼 민간기업, 관공서 등이 가진 기술협력을 통해 이런 부분을 해결해 나가려고 노력 중”이라고 말했다.

아주경제=김성현 기자 minus1@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -