김수키 부대에 이것도 가세?…전세계서 가장 강력한 무기 될거라는데

MS “북한·이란, 해킹에 AI 활용”

생성형AI 이미지 플랫폼 미드저니로 만든 그림. 명령어로 북한 군인이 AI를 연구하고 있는 모습을 입력했다. [그림=미드저니]

마이크로소프트(MS)가 14일(현지 시각) 이란과 북한, 러시아와 중국 등이 생성형 인공지능(AI)을 이용해 공격적인 사이버 작전을 시작했다고 밝혔다.

MS는 블로그 게시글을 통해 “오픈AI와 함께 AI 기술을 악용하거나 시도하는 많은 위협을 감지하고 이를 차단했다”라며 “이들의 기술은 초기 단계이며 새롭거나 독특하지는 않다”라고 밝혔다. 가디언에 따르면 사이버 보안 업체들은 네트워크에서 발생하는 비정상적인 행동을 탐지하기 위해 머신러닝을 활용해왔다. 하지만 범죄자들이나 공격적인 해커들도 이 머신러닝을 활용하고 있다. 오픈AI의 챗GPT가 주도하는 대규모 언어 모델의 도입으로 ‘고양이와 쥐’의 게임은 더욱 치열해지고 있다.

MS는 이와 함께 몇 가지 예시를 발표했다. 북한의 사이버 단체로 알려진 김수키(Kimsuky)는 해외 싱크탱크를 조사하고 해킹 캠페인에 사용될 가능성이 높은 콘텐츠를 생성하는 데 생성형AI를 사용했다. 이란의 혁명 수비대는 대규모 언어모델을 사용해 소프트웨어(SW) 오류를 해결하고 있을 뿐 아니라 국제 개발 기관에서 보낸 것처럼 위장한 피싱 이메일과 저명한 페미니스트를 유인하려는 또 다른 피싱 이메일도 만들었다. AI는 이러한 이메일 생산을 가속화하고 향상하는 데 도움을 줄 수 있다.

러시아의 군사정보 부대인 팬시 베어는 우크라이나 전쟁과 관련이 있는 위성과 레이더 기술을 연구하는 데 이 모델을 사용했다.

에드워드 아모로소 뉴욕대 교수는 가디언과의 인터뷰에서 “AI와 대규모 언어 모델의 사용이 당장 눈에 띄는 위협이 되지 않을 수 있지만 결국 모든 국가 군사력의 공격에서 가장 강력한 무기 중 하나가 될 것”이라고 우려했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]