올해 위협은 "AI 모델 노린 공격"…SK쉴더스 취약점 진단 가이드

"악의적 명령어 삽입·검색증강생성 데이터 오염 주의해야"

LLM 애플리케이션 취약점 진단 가이드 표지 이미지(SK쉴더스 제공)

(서울=뉴스1) 윤주영 기자 = SK쉴더스는 인공지능(AI) 보안 위협에 선제적으로 대응하고자 거대언어모델(LLM) 애플리케이션(앱) 취약점 진단 가이드를 발간했다고 8일 밝혔다.

자연어 처리·생성에 특화된 LLM은 금융·제조·헬스케어 등 다양한 산업에서 사용되고 있다. 하지만 고유의 데이터 처리 방식 등으로 인해 이용 과정에서 새로운 보안 위협이 생길 수 있다.

SK쉴더스도 올해 주요 위협 중 하나로 AI 기반의 해킹 증가를 꼽았다. 소규모 언어 모델(sLLM)을 겨냥한 해킹과 LLM의 구조적 취약점을 악용한 데이터 조작 및 유출 이 심화할 전망이다.

가이드는 '오픈소스 웹 애플리케이션 보안 프로젝트'(OWASP)가 꼽은 올해의 주요 LLM 위협 항목을 포함하고 있다. 또 LLM 통합, 에이전트, 모델 세 가지 핵심 영역의 보안 이슈를 다룬다.

대표적인 보안 위협으로는 '명령어(프롬프트) 인젝션'과 '앱 프로그래밍 인터페이스(API) 매개 변수 변조', '검색증강생성(RAG) 데이터 오염' 등이 있다.

프롬프트 인젝션은 사용자의 입력값을 악의적으로 조작해 시스템이 의도하지 않은 응답을 출력하도록 유도하는 공격이다. 악의적인 응답 생성, 민감한 정보 유출 등을 초래할 수 있다.

API 매개 변수 변조는 시스템 간 통신에 사용되는 API 요청값을 변경해 시스템 권한을 초과하는 동작을 실행시키는 위협이다. 이를 통해 악성 이메일 전송, 데이터 유출, 시스템 장악과 같은 문제가 발생할 수 있다.

RAG 데이터 오염은 외부 데이터를 악의적으로 조작해 검색된 정보의 신뢰도를 떨어뜨리는 공격이다.

이 밖에도 서드파티 소프트웨어를 사용하거나 보호된 영역 안에서만 프로그램이 작동하도록 하는 샌드박스 미적용도 위험 원인으로 꼽혔다.

보고서는 사용자와 시스템 명령어(프롬프트)를 분리하고, 데이터 흐름 점검 및 데이터 검증 절차를 강화해야 한다고 강조한다. 또 LLM의 코드 실행 유무에 따라 샌드박스를 활용해 악성코드 실행을 방지해야 한다. RAG 활용 시 권한 없는 데이터 접근을 차단하기 위해 그룹별 권한 관리 체계를 구축할 것을 권고했다.

특히 다층 보안 체계를 도입해 데이터 오염 및 권한 상승 공격을 방지해야 한다고 덧붙였다.

한편 SK쉴더스는 AI 특화 모의해킹 서비스와 소프트웨어 명세서(SBOM), 머신러닝 명세서(ML-BOM) 관리 등 DevSecOps(개발부터 배포, 운영, 관리 등 전 영역에서 보안을 연계) 구축 컨설팅을 제공한다. 기업이 AI 앱의 잠재적 취약점을 조기에 발견하고 안전한 운영 환경을 구축할 수 있도록 지원한다.

김병무 SK쉴더스 사이버보안부문장(부사장)은 "AI 기술은 편리함을 제공하지만 기술적 불안정으로 인해 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다"고 말했다.

가이드는 SK쉴더스 공식 웹사이트의 정보보안 라이브러리 메뉴에서 무료로 내려받을 수 있다.

legomaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.