[CSK2024] 속는 척 하면서 피싱 사기범 잡는 AI 챗봇있다?…SK텔레콤 ‘피해자 봇’ 선보여

[디지털데일리 오병훈기자] “보이스피싱 방지를 연구하기 위해 경찰청으로부터 보이스피싱 범죄에 대한 번호 받아 조사해보니 보이스피싱범들의 독특한 통신 패턴이 있었습니다. 예를 들어 주말에는 일을 안 하는 등 특징이 있어서 이를 바탕으로 보이스피싱 통신 패턴만 보고 이를 구분하는 연구도 가능할 것으로 보입니다”

11일 이지운 SK텔레콤 사이버보안 AI팀 리더는 ‘사이버 서밋 코리아2024’에서 ‘더 나은 미래를 위한 AI기술 및 서비스’를 주제로 발표하며 이같이 강조했다.

정보통신기술(ICT)이 상용화된 이후 시작된 보이스피싱·스미싱 전쟁은 유구한 역사를 지니고 있다. 보이스피싱·스미싱 집단은 진화를 거듭해 점조직화되고, 그들만의 생태계를 구성했다. 그 결과 보이스피싱·스미싱 집단을 검거하기 어려워지게 됐다.

통신사 입장에서도 보이스피싱·스미싱 범죄조직은 골칫거리다. 통신사가 이를 사전 차단하지 못했을 경우 이용자들로부터 비판을 받거나, 정부·국회 규제 심화로 이어질 수 있는 위험성을 안고 가야 하기 때문이다.

SK텔레콤에서는 이 리더가 속한 AI팀을 중심으로 AI를 활용한 보이스피싱·스미싱 범죄 차단 방법에 대한 다양한 연구가 진행됐다. 이 리더는 대표적인 예로 범죄조직이 사용하는 ‘사칭 사이트’ 정보를 수집하기 위한 ‘피해자 봇’을 소개했다.

이 리더는 “실제 이용자가 보이스피싱 범죄자를 계속 상대할 순 없으니까 ‘피해자 봇’을 만들어 봤다”며 “언어모델(LM)을 통해서 범죄자로부터 대화를 이끌어내 사칭 사이트 URL를 공개하도록 유도하는 역할을 맡고 있다”고 말했다.

이어 “각각 피해자 봇마다 페르소나를 만들 수가 있다. 예를 들어 채용 사기에 관련된 유형은 20대 여대생으로, 로맨스 스캠 경우 30대 남성으로 설정하는 방식이다”라며 “범죄자들이 요구하는 대로 뭐 답변을 해주고, 사칭 사이트 URL을 수집함과 동시에 연결이 끊어지게 설계됐다”고 덧붙였다.

SK텔레콤은 스미싱 문자와 일반 문자를 구분하는 과정에서도 AI를 활용하고 있다는 것이 이 리더 설명이다. 단순히 금지 단어를 입력해 차단하는 룰베이스 필터링은 일반 문자도 스미싱 문자로 오탐지할 수가 있기 때문에 AI를 활용해 스미싱 문자에서 공통적으로 나타나는 맥락을 잡아내는 것에 집중한다는 것이다.

이 리더는 “사칭 문자를 차단하는 데 있어서 오탐지가 가장 큰 문제였다”며 “(차단 프로그램을) 상용 레벨로 사용하기 위해서는 오탐지를 극단적으로 줄여야 되기 때문에 다층 검증 로직을 추가해 상용하게 됐다”고 말했다.

마지막으로 그는 “SK텔레콤 AI 전략에 전사적인 노력을 이어가고 있으며, 사내 인프라에 AI를 적용하는 것에 그치지 않고, 이러한 AI 전환 경험을 대외적으로 전파하는 것에도 집중하고 있다”며 “SK텔레콤 내 연구소에서는 이용자가 체감할 수 있는 AI 서비스를 제공하기 위한 움직임을 지속하고 있다”고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -