S2W, 생성형 AI 플랫폼 'SAIP'에 시큐리티 가드레일 적용…“안전성↑”

에스투더블유(S2W)가 기업 맞춤 생성형 인공지능(AI) 플랫폼 'SAIP(S2W AI Platform)'에 '시큐리티 가드레일(Security Guardrail)'을 적용했다. 이를 통해 AI 안전성을 강화하는 동시에 안정적인 데이터 운용 환경을 제공한다는 게 회사 측 설명이다.

SAIP는 S2W가 보유한 AI 기술과 데이터 처리 노하우를 바탕으로, 고객 보안 요구 수준에 맞춰 제로 트러스트(Zero Trust) 기반 설계로 구현한 기업 맞춤 생성형 AI 플랫폼이다. 시큐리티 가드레일은 거대언어모델(LLM)의 개발·배포, 운영 과정에서 보안성과 신뢰성을 확보하기 위한 일련의 방어 체계다.

S2W는 SAIP에 시큐리티 가드레일을 적용해 기업 내부 데이터 보호와 보안 위협 대응 역량을 높였다. AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감 정보를 제거하는 검증·정제의 과정을 거쳐, 정보 유출 위험을 최소화하고 데이터 프라이버시를 강화한다. 또 LLM 취약점을 공략해 AI 모델이 주어진 프롬프트에 대해 잘못된 방식으로 반응하도록 유도하는 '프롬프트 인젝션(Prompt Injection)'을 방지하는 역할도 수행한다.

서상덕 S2W 대표는 “시큐리티 가드레일을 포함해 조직 내부 데이터의 안정적인 운용을 가능하게 하는 다양한 기술을 지속적으로 개발·고도화하겠다”며 “고객이 데이터와 AI의 활용 가치와 유익성을 극대화할 수 있는 안전한 환경을 구축해 나갈 것”이라고 밝혔다.

조재학 기자 2jh@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]