MS의 경고 “중국, 한국 선거에 AI 조작정보 퍼뜨릴 것”

중국·북한 등 특정 국가 지원을 받는 사이버 공격 세력의 생성 인공지능(AI) 활용이 늘고 있다. 텍스트 생성에서 음성합성·동영상 생성 등 멀티모달(MultiModal·복합정보처리)로 AI가 진화하면 더 큰 위협이 될것이라는 우려가 나온다.

마이크로소프트(MS) 위협분석센터(MTAC)는 지난 4일(현지시간) 보고서에서 “중국 정부와 연계된 사이버 공격 세력들이 미국·한국 등 주요국 선거를 겨냥해 자국에 유리한 내용의 콘텐트를 만들고 퍼뜨릴 것”이라고 발표했다. MTAC에 따르면 이들은 논란이 있는 이슈에 대한 게시글을 지속적으로 올리는 방식으로 사회 갈등을 키웠다. 해당 국가 국민을 사칭하는 계정도 다수 만든 것으로 드러났다. 대표적인 사이버 공격세력인 ‘스톰 1376’은 일본 후쿠시마 원전 오염수 방출 문제와 관련해 카카오스토리, 티스토리 등 국내 플랫폼에 수백 개의 게시글을 올렸다. MTAC는 “주요 내용은 일본 정부를 비판하는 것 뿐 아니라 (오염수 방류) 반대 시위를 증폭시키는 내용”이라고 분석했다.

AI의 사회공학적(social engineering) 위협은 실제 행위로 드러났다. 해당 국가의 언어나 문화를 잘 알지 못해도, 생성 AI를 이용하면 손쉽게 콘텐트를 만들 수 있게 되면서다. MTAC는 보고서에서 “이들은 ‘현지화된(localized)’ 콘텐트를 생산해 사회 갈등을 증폭시키고 있다”고 수차례 언급했다. 생성AI 덕에 맞춤법, 관용어 등을 어법에 맞게 자연스럽게 구사해 국민들의 의심도 피해갈 수 있게 됐다. 연초 치러진 대만 총통 선거에서는 AI를 활용한 허위 정보 개입을 시도한 것으로 드러나기도 했다. MTAC은 “다른 나라 선거에 영향을 미치기 위해 AI를 활용하는 국가 단위 사이버 공격 세력을 발견한 건 이번이 처음”이라고 밝혔다.

대만을 겨냥한 공격엔 틱톡 운영사인 바이트댄스의 AI 동영상 편집 앱 ‘캡컷’이 사용된것으로 나타났다. 오픈AI는 지난달 29일(현지시간) 블로그에 사람 음성을 학습해 모방 음성을 생성하는 ‘보이스엔진’의 실험 결과를 공개했다. 15초 분량 음성 샘플만 있으면 원래 화자 목소리와 비슷한 음성을 만들어 낼 수 있다.

MTAC는 “북한의 사이버 공격자들도 AI 시대에 적응하고 있다”며 “거대언어모델(LLM) 기반 도구를 사용하는 방법을 배우고 있다”고 분석했다. MS와 오픈AI는 지난 2월 “북한의 해커 조직인 ‘에메랄드 슬릿’이 LLM을 활용해 스피어피싱(특정인을 대상으로 개인정보를 훔치는 것)을 늘리고 있다고 밝힌바 있다.

권유진 기자 kwen.yujin@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지