'AI해킹' 위협 본격화…2024년 보안 핵심은 '자동화'

미국 정보당국, AI 활용한 중국 해킹 공격 고도화 경계

'웜GPT' 등 AI 기반 해킹기법은 지속 발전 중

내년 보안 대응·방어 핵심도 AI, 기술 개발 박차

(그래픽=픽사베이)

[이데일리 김가은 기자] 최근 인공지능(AI)을 중심으로 한 사이버 위협이 커지면서 AI 기술을 활용한 ‘자동화’ 보안 전략이 내년에도 주목을 받을 것으로 전망된다.

27일 외신에 따르면 최근 미국 정보당국은 중국이 해킹 공격으로 얻은 미국인들의 개인정보를 AI에 학습시키고 있다. AI가 지문이나 금융 정보, 의료 기록 등을 학습·통합 분석해 비밀 첩보원이나 주요 인물들을 특정하고 있다는 것이다.

AI를 활용한 공격 정황도 이미 포착됐다. 브래드 스미스 마이크로소프트(MS) 부회장은 “2021년 중국 쪽 해커들이 MS 서버를 사용하는 이메일 수만 건을 해킹한 사건을 조사한 결과, 이들이 표적을 정밀 지정하기 위해 AI를 활용한 것으로 보이는 정황을 발견했다”고 설명했다.

미 연방수사국(FBI)도 중국이 해킹 공격을 고도화하는데 AI를 쓰고 있다고 보고 있다. 크리스토퍼 레이 FBI 국장은 “중국이 해킹 작전을 개선하는데 AI를 쓰고 있다”며 “중국이 수년간간 여러 개인데이터 도난 사건에 연루돼왔고, AI가 해킹 작전을 지원하는 ‘증폭기’로 사용될 수 있다”고 밝혔다.

6일 공격자가 온라인 사이버 해킹포럼에서 생성형 AI 기반 피싱 범죄 도구 ‘웜GPT’ 사용기를 공유한 모습(사진=김가은 기자)

AI를 활용한 공격 방식은 이미 고도화를 거듭하고 있다. ‘웜GPT(WormGPT)’가 대표적이다. 챗GPT의 ‘다크웹 버전’이라고도 불리는 이 도구는 생성형 AI 기반 사이버 범죄도구다. 글로벌 사이버보안 기업 슬래시넥스트에 따르면 이는 오픈소스 언어모델 ‘GPT-J’를 기반으로 개발됐다.

해킹과 악성코드 관련 데이터를 대량 학습해 피싱 이메일과 문구 제작에 특화된 점이 특징이다. 공격자가 자연어로 원하는 조건을 입력하면 결과물을 도출하는 방식이다. 쉽게 말해 공격에 소요되는 시간이 점차 짧아지고 있다는 의미다.

다크웹 내 사이버 해킹포럼 커뮤니티에서는 이미 지난 7월 경부터 웜GPT를 활용한 공격 기법을 논의하기 시작했다. 지난달까지도 해당 커뮤니티에는 웜GPT 사용기를 공유하는 공격자들의 게시글이 올라오기도 했다.

27일 해커 포럼 커뮤니티에서 ‘웜GPT’를 활용한 공격기법에 대해 토론 중인 공격자들(사진=김가은 기자)

이안 림 팔로알토네트웍스 아시아·태평양 지역 최고보안책임자(CSO)는 “과거 44일이 필요했던 공격이 지난해에는 단 5일밖에 걸리지 않게 됐고, 이제는 몇 시간밖에 소요되지 않을 만큼 시간이 단축됐다”며 “웜GPT 등 생성형 AI를 활용한 신종·변종 공격이 빠르게 진행 중”이라고 경고했다.

국내에서도 과학기술정보통신부와 한국인터넷진흥원(KISA) 등 정부기관은 물론 SK쉴더스, 이스트시큐리티 등 국내 보안기업들까지 모두 내년 주요 보안 위협으로 ‘생성형 AI 활용 공격’을 꼽았다. 특히 내년 총선을 앞두고 다양한 형태의 공격이 펼쳐질 것으로 예상하고 있다.

이를 방어하기 위한 핵심기술도 결국 AI다. AI를 활용해 여러 공격에 대한 탐지와 분석을 자동화해야만 효과적 대응이 가능하기 때문이다. 방어 기술에 대한 연구와 기술 개발도 활발히 진행되고 있다.

안랩은 ‘확장된 탐지 및 대응(XDR)’을 선보였다. 네트워크, 서버 등 다양한 영역에서 발생하는 위협을 하나로 통합해 AI로 탐지·분석하는 점이 특징이다.

이글루코퍼레이션은 AI 탐지모델 서비스 ‘에어(AiR)’를 내놨다. 분류형·설명형·생성형 AI 기술을 적용해 보안 담당자에게 AI모델이 내놓은 결과에 대한 기준을 자연어로 제공한다. 보안에 특화된 자체 소형언어모델(sLLM) ‘그린AI’도 개발 중이다. SK쉴더스 역시 생성형 AI를 활용한 방어 플랫폼 등 다양한 연구개발(R&D)을 진행하고 있다.

이호석 SK쉴더스 이큐스트(EQST) 랩 담당은 “AI를 악용한 공격에 대비하기 위해서는 활용 단계에서부터 보안 수칙 준수와 전문적인 대응 전략을 수립해 사전에 예방하는 것이 중요하다”며 “생성형 AI 모델이 발전함에 따라 정확도와 활용도가 높아질 것으로 보이며 보안 방어 기술 고도화를 위한 연구개발을 지속적으로 이어나갈 것”이라고 했다.