북한·중국·러시아 해커도 챗GPT 활용…오픈AI·MS, “계정 차단”

북한, 중국, 러시아, 이란 등과 연계된 해커집단이 생성형 인공지능(AI) 챗GPT를 활용하는 것으로 확인됐다.

오픈AI와 마이크로소프트(MS)는 해커집단의 'GPT-4' 등 최신 AI 모델 이용 사실을 감지하고 이들의 사이트 접근을 차단했다고 14일(현지시간) 밝혔다.

오픈AI에 따르면 이번 사례는 중국 계열의 두 해커 집단인 'Charcoal Typhoon'과 'Salmon Typhoon', 이란 계열 'Crimson Sandstorm', 북한 계열 'Emerald Sleet', 러시아 계열 'Forest Blizzard'가 주도했다.

해당 해커들은 사이버 보안 도구 연구, 코드 디버깅, 스크립트 생성, 피싱 캠페인, 기술 문서 번역, 악성 코드 탐지 회피, 위성 통신과 레이더 기술 연구 등 전방위로 거대언어모델(LLM) 활용을 시도했다.

오픈AI와 MS는 해당 계정을 확인 후 차단했다.

오픈AI는 해커들이 AI를 활용해 다른 나라를 직접 공격하는 대신, 이메일 초안 작성이나 문서 번역, 컴퓨터 코드 디버깅 등 일상적 수준으로 활용했다고 밝혔다. 심각한 해킹 위협 사례는 발견하지 못했다.

MS 보안 분야 책임자인 톰 버트는 “해커는 일반 사용자처럼 생산성을 높이기 위해 AI를 활용했다”고 전했다.

이란 이슬람 혁명 수비대와 연결된 해커 집단은 AI 시스템을 활용해 바이러스 백신 스캐너를 피하고 피싱 이메일을 생성하는 방법을 연구했다.

해당 이메일 중에는 국제 개발 기관에서 보내는 척하거나 유명한 페미니스트를 타깃 삼아 공격자가 구축한 페미니즘 관련 웹사이트로 유인하려는 시도도 있었다.

러시아 계열 해커 집단은 우크라이나 전쟁에 영향을 미치기 위해 오픈AI 시스템을 사용해 위성 통신 프로토콜과 레이더 이미징 기술에 대한 연구를 하기도 했다.

오픈AI는 계정, IP 주소, 기타 인프라의 동작을 연구해 공격자의 공격 패턴과 능력을 학습하고 악의적 연결이나 계정을 차단하고 있다고 설명했다.

MS는 사이버 범죄 관련 300개 이상 해킹 그룹을 추적하고 있으며, 이들의 AI 프로그램 사용을 차단하고 있다고 밝혔다.

김명희 기자 noprint@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]