딥페이크 기술까지 동원된 ‘캄보디아 스캠’…진화하는 사기 범죄[사건플러스]

딥페이크로 가상 인물 만들어 120억 편취
영상통화까지 악용…AI 스캠 수법 고도화
“생성물 표시·워터마크로 범죄 차단해야”

최근 캄보디아에서 스캠 범죄 등에 가담한 한국인 조직원들이 국내로 강제 송환됐다. 이 중 가상 인물로 위장하는 ‘딥페이크’ 기술을 활용해 피해자를 속이고 돈을 뜯어낸 부부 사기단도 포함됐다. 인공지능(AI) 발달과 함께 사기 범죄도 진화하는 가운데 딥페이크 범죄에 대한 제도적·기술적 대응을 강화해야 한다는 지적이 나온다.

초국가범죄 특별대응 태스크포스(TF)는 23일 캄보디아를 거점으로 스캠, 인질강도 등의 범죄를 저지른 한국인 73명을 전세기를 통해 강제 송환했다. 한국 범죄자들을 해외에서 집단 송환한 사례는 이번이 네 번째이며 단일 국가 기준으로는 역대 최대 규모다.

강제 송환된 피의자들은 한국인 869명으로부터 약 486억 원을 가로챈 혐의를 받는다. 70명은 로맨스 스캠이나 투자 리딩방 운영 등 사기 범죄에, 3명은 인질강도와 도박 등에 가담한 것으로 조사됐다. 경찰청 국가수사본부는 73명 전원에 대해 24일 구속영장을 신청했다.

특히 송환자 중에는 104명에게 약 120억 원을 뜯어낸 로맨스 스캠 부부 사기단도 포함됐다. 이들은 사회관계망서비스(SNS)에 올라온 일반인 사진을 모아 딥페이크 기술로 가상의 34세 여성 인물을 만들어냈다. 혈액형과 부모 직업, 가정 환경, 학력 등을 구체적으로 설정하는 치밀함까지 보였다.

이들은 채팅 앱을 통해 피해자들에게 접근해 매일 연락을 주고받으면서 신뢰를 쌓았다. 이후 “함께 투자 공부를 하자”며 가상화폐와 주식 투자금을 보내도록 유도했고 피해자가 수익금을 찾겠다고 하면 곧바로 잠적했다. 수사당국의 추적을 피하기 위해 성형수술로 외모를 바꾸는 등 기상천외한 도피전략을 써온 사실도 드러났다.

이 과정에서 고도화된 딥페이크 기술은 범행의 핵심 도구로 활용됐다. 사진은 물론 영상통화까지 동원해 피해자가 의심할 여지를 차단했다. AI 기술이 발달하면서 상대방의 심리를 교묘히 파고드는 스캠범죄가 한층 진화하고 있다는 분석이다.

지난해에는 배우 이정재를 사칭한 로맨스 스캠 조직에 속아 약 5억 원을 송금한 피해 사례가 발생했다. 해당 조직도 AI로 생성한 이정재의 사진과 가짜 운전면허증을 보낸 것으로 알려졌다. 2024년에는 해외에 거주하는 부모에게 딸이 방 안에 감금된 채 살려달라고 하는 딥페이크 가짜 영상을 전송해 돈을 편취하려는 시도도 있었다. 최근 AI에 특정인의 목소리를 학습시키는 ‘딥보이스’ 기술까지 보이스피싱 범죄에 악용되는 사례가 잇따르고 있다.

이에 정부는 딥페이크 생성물임을 명확히 인식할 수 있도록 표시를 의무화하는 ‘AI 기본법’을 제정했다. 다만 규율 대상이 AI를 개발하거나 이를 활용하는 사업자로 한정돼 있다. 전문가들은 딥페이크가 범죄에 활용될 가능성이 큰 만큼 이를 유통하는 플랫폼 등에도 AI 생성물 표시를 유지할 책임을 부여하고, 이용자가 표시를 임의로 제거하거나 훼손하는 행위도 금지해야 한다고 조언한다. 아울러 딥페이크 콘텐츠가 생성되는 단계에서부터 자동으로 추적 가능한 워터마크를 삽입해 기술적 차원의 사전 식별을 강화하는 방안도 대안으로 제시된다.

정유나 기자 me@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]