"생성형AI 악용한 보안 공격 성행"…보안 대책 필요성 강조한 SK쉴더스

[조성준 기자]

이재우 SK쉴더스 이큐스트 SI솔루션사업그룹장이 올해 상반기 주요 보안 이슈에 대해 설명하고 있다. / 사진=SK쉴더스 제공

"일반 사용자가 클라우드에 접속할 수 있는 키가 포함돼 있는 소스코드를 생성형 AI에 업로드 한다. 코드를 컴팩트하게 바꿔달라고 요청해 생성형 AI가 이를 수행한다. 하지만 이미 생성형AI 서버에는 해당 키가 학습돼 있는 상태다. 이때 공격자가 생성형 AI에게 해당 키를 보여달라고 요청한다. 이를 활용하면 공격자가 접속할 수 있는 코드를 GPT가 생성해 보여준다. 이렇게 만들어진 키를 통해 클라우드에 접속해 악용할 수 있게 된다."

생성형 AI가 발전함에 따라 앞으로 이를 활용한 사이버 보안 공격이 고도화될 수 있다는 지적이 나왔다. 생성형 AI의 취약점을 파고들어 내부 정보를 빼내는 범죄 행위 등이 늘어날 수 있는 만큼 앞으로 체계적은 대응방침이 필요하다는 주장이다.

SK쉴더스는 2일 서울 중구 페럼타워에서 올해 상반기 주요 보안 트렌드를 분석하고 AI LLM 보안 대응전략을 제시하는 미디어 세미나를 개최했다고 2일 밝혔다.

이날 발표는 국내 화이트해커 전문가 그룹인 SK쉴더스의 'EQST(이큐스트)'가 상반기에 직접 경험한 해킹 사고 사례와 분석을 바탕으로 진행됐다. 특히 최근 주목받고 있는 AI LLM(거대언어모델)의 취약점을 이용한 공격을 시연하고 보안 대책에 대해 발표했다.

올 상반기 끊임없는 보안 공격…"앞으로 더 고도화 될 것"

이큐스트는 올해 상반기 주요 보안 이슈를 분석한 결과 가상자산 탈취와 딥페이크 해킹 공격 등이 성행했다고 설명했다. 1월에는 이반티 VPN 취약점이 전 세계 1700개 이상 기기에 감염돼 1123억원 이상의 가상자산이 도난됐으며 2월에는 중국 정부의 지원을 받는 해커 '볼트 타이푼'이 VPN 취약점을 활용해 미국 인프라 내부망에 침투하는 일도 발생했다.

3월에는 오픈소스 XZ Utils에서 백도어가 발견되기도 했으며 4월에는 금전탈취를 목적으로 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생하기도 했다. 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억원의 가상자산을 도난 당하는 사건이 발생하는 등 거의 매달 해킹공격이 이뤄졌다고 설명했다.

SK쉴더스가 발표한 AI 사고 사례 및 법안 현황. / 사진=조성준 기자

이큐스트가 자체적으로 분석한 업종별 침해사고 발생 통계를 살펴보면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 많이 발생한 것으로 나타났다. 해외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높았다. 유형별로는 취약점 공격이 45%로 가장 많이 발생했는데, VPN과 라우터 등 네트워크 장비를 통한 지능형 지속 위협 공격이 크게 증가한 것으로 나타났다.

이재우 이큐스트 SI솔루션사업그룹장은 "LLM을 활용한 해킹 공격 수단이 최근 활발하게 나타나고 있다"며 "앞으로 AI를 활용한 사이버 공격이 더 고도화 될 것"이라고 전망했다.

생성형 AI 취약점 공격 막는 AI 연계 보안 서비스 필요

상반기에는 생성형AI의 발전에 따라 취약점을 겨냥한 공격도 성행했다. 이큐스트는 이날 AI LLM에서 발생할 수 있는 10가지 취약점을 직접 분석하고, 이 중 위험도가 높은 3가지 수법에 대한 시연을 진행했다.

우선 '프롬프트 인젝션'은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 본 목적 이외의 답변을 이끌어내는 취약점이다. 폭발물이나 마약 제조 등 필터링을 설정한 단어의 경우 질문을 하면 답변을 하지 않지만, 간접적으로 악성 스크립트를 참조하도록 하고 우회해 관련 답변을 이끌어낸다. 이를 통해 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다.

이호석 SK쉴더스 이큐스트 Lab팀장이 생성형AI의 발전 현황에 대해 설명하고 있다. / 사진=조성준 기자

두 번째로는 '불안전한 출력 처리' 취약점이다. 이 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하는 것으로, 다른 2차 공격으로 이어질 수 있어 위험도가 높다. 또 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 '민감 정보 노출' 취약점을 분석하며 DB 정보를 탈취하는 공격을 시연했다.

SK쉴더스는 이러한 AI 서비스의 발전에 맞춰 모의해킹부터 연계 보안 서비스까지 다양한 맞춤형 서비스를 제공하고 있다. 나아가 AI 인프라 운영에 특화된 제로 트러스트 환경 구축 및 운영 체계 수립 서비스를 제공해 AI 연계 보안 서비스를 제공한다는 방침이다.

이호석 이큐스트 Lab팀장은 "웹 서버와 DB서버만 있는 것이 아니라 관련된 플러그인 등 여러가지가 있기 때문에 각각의 권한을 잘 분리하고 신뢰된 단말기만 쓸 수 있는 제로트러스트를 적용해야될 필요가 있다"며 "AI는 클라우드 위에 올라가져 있는 것이 많기 때문에 안전하게 시스템 관리를 할 수 있는 CSPM, DSPM 등을 제공해야 한다"고 강조했다.

조성준 기자 csj0306@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>