마냥 좋은 AI 기술? LLM 취약점 뚫린다…민감정보 유출 위험도↑

[디지털데일리 김보민기자] 인공지능(AI) 취약점을 악용한 사이버 위협이 두드러지고 있다는 분석이 나왔다.

AI 및 보안 전문 데이터 인텔리전스 기업 S2W(대표 서상덕)는 '2024년 사이버 위협 결산 보고서'를 5일 공개했다.

이번 보고서는 LLM 관련 보안 위협에 대한 분석 결과를 담았다. 특히 공급망 공격과 불안정한 국제 정세에서 비롯된 사이버 공격, 은닉 채널 정보 유출 등 올 한 해 발생한 주요 사이버 위협 유형과 사례를 소개하는 데 집중했다. 생성형 AI 대중화에 따른 LLM 악용 위협 사례도 조명했다.

최근 AI 기술은 기업 조직에 있어 '양날의 검'으로 통하고 있다. 기업 업무 환경을 자동화할 수 있는 조수 역할을 하면서도, 동시에 해커 등 사이버 공격자들이 위협 전략을 간소화할 수 있는 도구가 될 수 있기 때문이다. 무료로 사용할 수 있는 오픈소스 LLM에 잠입해 기업 내부에 침투하는 공격 시나리오도 현실로 다가오고 있다.

S2W에 따르면 국가 지원 해커들은 LLM 취약점을 악용하고 있다. 이번 보고서에는 오픈AI와 마이크로소프트(MS) 위협인텔리전스팀이 협력해 분석한 북한, 중국, 러시아 배후 APT그룹의 LLM 취약점 악용 사례를 담았다. 공격자들은 정보 수집, 코드 디버깅, 피싱 콘텐츠 작성에 LLM 활용을 시도한 것으로 나타났다.

LLM 서버 노출로 인해 민감 정보가 유출될 위험도 커진 것으로 분석됐다. S2W는 지난 8월 플로와이즈(Flowise) 등을 포함한 오픈소스 LLM 빌더 서버와 벡터 데이터베이스가 인터넷에 노출돼 민감 정보가 유출된 사례를 소개했다. 기업이 AI 도구를 비즈니스에 적용하는 과정에서 보안을 간과한 결과라고도 지적했다.

이번 보고서는 LLM이 사이버 공격에 악용될 가능성을 최소화하기 위한 대응 전략도 소개한다. S2W는 기업이 LLM을 도입하기 전 안전성을 검토하고, 민감 데이터 노출을 방지하기 위한 관리 및 인증 절차를 구축해야 한다고 조언했다. 또한 LLM 제공업체와 사용자 역시 위협인텔리전스(TI)를 통해 모니터링을 강화하고, 악용 시도를 사전 차단할 필요가 있다고 강조했다.

김재기 S2W 위협인텔리전스 센터장은 "교묘한 형태로 진화하는 사이버 위협에 대응하기 위해, 모든 조직은 딥다크웹과 텔레그램 등 히든 채널 모니터링 시스템을 구축하고 인텔리전스를 도출해 대응 역량을 강화해야 한다"고 말했다. 이어 "S2W는 온톨로지(Ontology) 기반 지식그래프 기술을 바탕으로 악성코드 및 취약점과 위협 행위자 간 연관성을 체계적으로 파악해, 고객이 최적화된 방어 전략을 구축할 수 있도록 지원하고 있다"고 부연했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -