'AI범죄'가 온다…AI합성으로 보이스피싱하고 자율주행으로 주택침입

"AI 합성 영상·음성 사회 전반에 불신 퍼뜨릴 것"

英 연구진, 앞으로 15년간 등장할 AI 범죄 보고서 발간

© News1 이지원 디자이너

(서울=뉴스1) 김승준 기자 = 흉기를 휘둘러 상해를 입히거나 협박, 감언이설로 사기를 치는 것이 현 범죄 행태라면 미래 범죄는 인공지능(AI) 기술을 이용해 더욱 교묘하고 정교한 범죄로 고도화 될 것이라는 경고가 나왔다.

인류의 삶을 윤택하고 풍요롭게 해 줄 도구로 인공지능과 빅데이터 등이 각광을 받고 있지만, 이를 악용해 범죄 고도화에 써먹는 경우도 분명히 발생한다는 얘기다.

4일 유니버시티 칼리지 런던(University College London·UCL) 소속 연구진은 앞으로 15년 동안 AI 관련 범죄 중에서 가짜 오디오(fake audio), 가짜 비디오(fake video)가 잠재적으로 가장 심각한 문제를 일으킬 것이라는 진단을 담은 보고서를 학술지 '크라임 사이언스'(Crime Science)에 발표했다.

범죄 과학을 연구하는 UCL의 다우스 미래 범죄 센터(Dawes Centre for Future Crime)의 지원으로 이뤄진 이번 연구에서는 학술지, 뉴스, 소설 및 대중문화 콘텐츠에서 AI 기반 범죄를 모았다.

이후 15년간 가능한 20가지를 선정한 뒤 관련 학계, 민간 전문가, 경찰, 정부 및 국가 보안 기관에서 AI 전문 지식을 갖춘 31명을 대상으로 심각성을 평가하게 했다. 심각성의 기준은 예상 발생 피해, 잠재적 범죄수익, 범죄 근절 가능성 등이었다.

연구진은 딥 페이크 같은 인공지능 기술을 이용해 만든 가짜 콘텐츠는 탐지 및 피해 방지가 어렵고 다양하게 활용될 여지가 있다고 지적했다.

이들은 지금까지 주로 지적됐던 정치인 등 공인을 합성한 가짜 영상부터 영상·음성 통화에서 지인을 사칭해 돈을 가로채는 보이스피싱(사기전화)까지 다양한 방식으로 기술이 악용될 수 있다고 봤다.

연구진은 이러한 범죄로 인한 직접적 피해뿐 아니라, 사회 전반으로 광범위한 불신이 퍼져 사회적 비용을 발생시키리라 전망했다.

인공지능 학습을 위한 데이터 확보 문제로 합성 영상·음성문제는 정보가 많이 공개된 유명인을 중심으로 대두되고 있으나, 개인 미디어의 발달로 유명인이 아닌 개인의 목소리·얼굴 데이터 확보가 쉬워지고 있다. 또한 기술 발전에 따라 합성에 필요한 데이터의 양이 적어질 가능성도 있다.

이들이 제기한 다른 심각한 범죄는 Δ무인차량 제어권 탈취 Δ데이터 분석을 통한 맞춤형 피싱 메시지 Δ광범위 데이터 수집을 통한 협박 범죄 ΔAI 작성 가짜 뉴스 양산 Δ인공지능 제어 시스템 방해 등 이었다.

상대적으로 심각도가 낮은 범죄로는 현관문 우유 투입구 등을 통한 소형 자율 주행 로봇을 이용한 침입 범죄가 꼽혔다. 이 범죄는 우유 투입구 등 침입 경로를 막는 방법으로 쉽게 막을 수 있다는 점 때문에 심각성이 낮게 평가됐다. 인공지능을 활용한 스토킹 범죄의 경우에는 개인의 피해가 심각하지만 대규모화되기 어렵다는 점 때문에 심각도가 낮게 평가되기도 했다.

제1 저자인 UCL 컴퓨터과학과의 매슈 콜드웰(Matthew Caldwell) 박사는 "온라인 활동이 사람들의 삶의 많은 부분을 차지하고 데이터가 중요해지는 환경에서 AI 기반 범죄가 늘어나기 쉽다"며 "전통적인 범죄와는 달리 디지털 영역의 범죄는 쉽게 공유· 반복·판매 할 수 있어 기술 거래 시장이 생기고 일종의 서비스업화될 수 있다"고 지적했다. 범죄자들이 범죄의 일부를 인공지능 범죄 기술을 가진 이에게 아웃소싱하는 시장이 만들어질 가능성을 지적한 것이다.
seungjun241@news1.kr

[© 뉴스1코리아(news1.kr), 무단 전재 및 재배포 금지]