LLM 보안 위협·민감정보 유출 차단, 컴플라이언스 충족하는 보안 솔루션 '알약 xLLM'

마켓앤마켓 리포트에 따르면, 전 세계 대규모 언어 모델(LLM) 시장은 2024년 약 64억 달러에서 2030년 360억 달러 이상으로 성장할 전망이다. LLM은 콘텐츠 생성부터 업무 자동화, 분석까지 다양한 분야에 활용되며 디지털 전환을 가속화하고 있다. 그러나 이와 함께 데이터 유출, 악성 응답 등 보안 위협도 동시에 증가하고 있다.

최근 중국 AI 기업 딥시크(DeepSeek)가 사용자 동의 없이 개인정보를 해외로 전송한 사실이 알려지면서, 프롬프트 인젝션과 데이터 관리의 허점이 사회적으로 주목받고 있다. 이에 따라 LLM 활용에 있어 보안 강화와 사용자 신뢰 확보는 기업의 핵심 과제로 떠오르고 있다.

기업 및 공공기관들은 LLM 도입 시 보안 위협 차단과 함께, 개인정보보호법 및 보안 컴플라이언스를 충족시킬 수 있는 전문 보안 솔루션에 대한 수요를 높이고 있으며, 관련 기술 투자가 빠르게 진행되고 있다.

이스트시큐리티는 생성AI 기반 업무 환경에서의 보안 위협을 대응하기 위해 AI 보안 솔루션 '알약 xLLM'을 선보였다. 이 솔루션은 실시간으로 사용자의 프롬프트 입력을 분석하고 개인정보, API 키, 기업 기밀 등 민감 정보를 탐지한 후 자동 마스킹 처리한다. 문서와 이미지 파일 내 포함된 민감정보까지 탐지 가능해 다양한 데이터 유형에 대응할 수 있다.

이스트시큐리티의 LLM 보안 솔루션 '알약 xLLM'

알약 xLLM은 LLM 응답 내용에서도 악성 코드 생성, 피싱 유도 등 보안 위협 요소를 자동 분석하고 차단한다. 이를 통해 사용자와 조직이 악성 콘텐츠에 노출되는 것을 방지하고, 생성형 AI 환경에서도 신뢰할 수 있는 업무 환경을 구현할 수 있다.

알약 xLLM은 전용 대시보드를 통해 관리자에게 통합 보안 관리 기능을 제공한다. 정책 설정, 탐지 내역 확인, 사용자별 위반 기록 관리 등이 가능하며, 키워드 및 파일 등록 기반의 블랙리스트·화이트리스트 정책 수립도 지원된다. 로그 내보내기를 통해 보안 감사 및 침해 대응에 필요한 이력 분석도 가능하다.

이 솔루션은 브라우저 확장 프로그램 기반으로 별도의 설치나 시스템 변경 없이 간편하게 도입 가능하다. 프롬프트 입력 시 서버 측에서 스캔·필터링되며, 위반 발생 시 팝업 알림을 통해 사용자에게 즉시 안내된다. 이는 기업의 업무 흐름을 방해하지 않으면서도 높은 수준의 보안을 제공하는 구조다.

알약 xLLM은 최근 1,400여 명 규모의 공공기관에 적용돼, 엔드포인트 기반 통합 보호 기능을 통해 생성형 AI 사용 중 기밀정보 및 개인정보의 유출을 차단하고 있다. 또한, 이스트시큐리티의 모회사 이스트소프트의 개인 서비스인 '앨런(Alan)'에도 통합되어 프롬프트 기반 개인정보 보호 기능을 제공하고 있다.

이 솔루션은 기존 보안 시스템으로는 감지하기 어려운 LLM 활용 구간의 가시성을 확보할 수 있도록 설계되었으며, API 기반으로 다양한 내부 시스템과 연동할 수 있는 점이 강점이다. 향후에는 엔드포인트 제어 기능도 단계적으로 확대될 계획이다.

알약 xLLM은 민감정보 유출과 악성 콘텐츠 차단을 통해 생성형 AI 환경 전반에 걸쳐 보안 효과를 제공한다. 이를 통해 기업은 신뢰 기반의 AI 업무 환경을 구축하고, 내부 보안 정책 및 거버넌스 체계를 수립할 수 있다. 이스트시큐리티는 알약 xLLM을 통해 LLM 기반 업무환경의 통합 보안 관리를 지원하고, 국내외 AI 보안 시장에서의 입지를 더욱 강화해나갈 계획이다.

유은정 기자 judy6956@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]