LLM 악이용 AI 범죄 급증…올 상반기 금융부터 국가 기밀까지 털렸다[SS현장]

SK쉴더스가 2일 ‘2024 EQST 미디어데이’에서 올 상반기 보안 트렌드 및 안전한 AI 활용 위한 보안 전략을 공개했다. 사진 | 표권향 기자

[스포츠서울 | 표권향 기자] SK쉴더스의 화이트해커 전문가 그룹 EQST(이큐스트)가 올 상반기 직접 경험한 해킹 사고 사례와 연구 결과를 분석한 결과, 최근 주목받고 있는 AI LLM의 취약점을 이용한 가상자산 탈취, 딥페이크 해킹 공격 등이 지속 발생하고 있는 것으로 나타났다. 이에 날로 진화하는 해커들에 맞춰 더 강력한 보안 방안을 마련 중이라고 전했다.

SK쉴더스는 2일 서울 중구에 위치한 페럼타워에서 ‘2024 EQST 미디어데이’를 열고 올 상반기 주요 보안 트렌드와 AI LLM 보안 대응전략을 제시했다.

지난 1월 ‘Ivanti VPN 솔루션’에서 제로데이 취약점 발견돼 다양한 산업 분야에서 피해를 봤다. 2월에는 중국 정부 지원을 받는 것으로 알려진 ‘볼트 타이푼’이 미국 주요 인프라 내부망을 공격한 사실이 밝혀졌다. 또한 딥페이크로 구현한 화상회의에 속아 340억 원을 송금한 사례도 있었다. 3월 오픈소스 ‘XZ Utils’에서 백도어가 발견됐으며, 4월에는 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생했다. 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억 원의 가상자산을 도난당한 사건이 있었다.

◇ 국내 금융업 분야 대상 공격 20.6%…정부·기관 기밀 유출도 빈번

EQST가 분석한 업종별 침해사고 발생 통계에 따르면 국내에서 금융업 대상 침해사고가 20.6%로 가장 높았다. 또한 비트코인 ETF 승인 등의 이슈로 가상자산 가치가 상승해, 이를 노린 해킹 공격이 지속 발생했다.

국외에서는 러시아·이스라엘 등 국제 분쟁으로 인해 각 정부와 공공기관의 기밀 정보 등이 유출 또는 파괴 사례가 26.7%로 가장 많았다.

유형별 사고 발생 통계로는 취약점 공격(45%)이 가장 많이 발생했는데, 이는 VPN·라우터 등 네트워크 장비를 통한 APT(지능형 지속 위협) 공격 때문으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 ‘소셜 엔지니어링’ 공격도 26%로 높았다.

올 상반기에는 네트워크 장비의 신규 취약점을 활용한 공격이 성행했는데, 지난해 동기에 비해 2배 이상 증가한 것으로 나타났다.

이재우 EQST·ST사업그룹장·전무는 “보안 패치가 발표됐지만, 패치를 적용하지 않은 상태를 노린 1-Day 취약점을 악용하거나 합법적인 도구를 사용한 랜섬웨어 공격들이 발생했다”라며 “최근 랜섬웨어 공격자들이 보안 솔루션 탐지를 피하기 위해 RMM을 타깃하거나 LotL 방식을 사용하고 있어 각별한 주의가 필요하다”라고 강조했다.

◇ AI도 세뇌 당한다…악용 시 범죄 조언자로 전락

생성형 AI가 급속도로 발전하면서 AI가 가져올 수 있는 보안위협은 날로 심각해지고 있다.

EQST는 비영리단체인 OWASP에서 발표한 AI LLM서비스에서 발생 가능한 10가지 취약점을 분석해 3가지를 시연했다.

먼저 ‘프롬프트 인젝션’은 AI 서비스에 적용된 지침 또는 정책을 우회해 악의적인 질문의 답변을 이끌어낸다. 이는 악성코드 생성, 마약 제조, 피싱 공격 등에 악용할 가능성이 크다.

두 번째 ‘불안전한 출력 처리’는 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하며, 다른 2차 공격으로 이어질 수 있어 위험도가 높다. 예를 들어, 공격자가 챗봇에게 원격접속코드 실행 요청을 포함한 내용을 입력한다. 이때 챗봇이 이 코드를 실행하게 되면 공격자가 AI LLM 운영 서버에 접속해 중요 정보를 탈취할 수 있다.

마지막 ‘민감 정보 노출’은 개인정보를 포함하거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 취약점이다. LLM 모델 학습 시 민감 정보 필터링이 부족한 경우, LLM이 생성하는 답변에 학습된 민감 정보가 출력될 수 있어 학습 데이터에 가명 처리를 하거나 데이터 검증 등 추가 보완책이 필요하다.

SK쉴더스는 보안 방안 개발 경험을 바탕으로 다양한 산업 분야에서의 취약점 점검, 모의해킹을 수행해 AI 인프라 운영에 특화한 제로 트러스트 환경 구축 및 운영 체계 수립 서비스를 제공할 방침이다. 또한 기업에서 SBOM(소프트웨어 자재 명세서) 등을 활용해 보안 이력을 관리할 수 있는 대책을 제시하는 등의 전략을 선보인다.

김병무 SK쉴더스 정보보안사업부장·부사장은 “전 산업 분야에 AI 기술 접목이 확산하면서 이를 노린 보안 위협이 현실화되고 있어 이에 대한 체계적인 대비가 필요하다”라며 “SK쉴더스는 선제적으로 보안 트렌드 변화에 발맞춘 연구 결과물을 지속적으로 공개하며 생성형 AI 시대의 보안 전략을 제시해 나가겠다”라고 말했다. gioia@sportsseoul.com

[기사제보 news@sportsseoul.com]
Copyright ⓒ 스포츠서울&sportsseoul.com