[AI프런티어] 보안에 강한 AI챗봇…기업 비밀 누설 걱정 '뚝'

복잡한 사내 문서에 대해 답변해주는 인공지능(AI) 챗봇이 수많은 기업에 속속 도입되고 있다. 문제는 보안이다. 노하우는 확산될수록 좋지만, 경영진이나 특정 직군만 봐야 하는 정보가 누설되면 피해가 발생할 수 있다. AI 데이터 인텔리전스 기업 에스투더블유(S2W)는 자체 개발한 AI 모델 '에스에이아이피(SAIP)'를 통해 이런 문제점을 해결하고 있다. 서상덕 에스투더블유 대표는 기자와 만나 "인간 두뇌의 시냅스에 해당하는 파라미터 수가 약 140억개인 기업 맞춤형 언어모델을 개발했다"면서 "다른 기업의 챗봇과 달리 직급별, 업종별, 장소별로 접근할 수 있는 데이터를 제한할 수 있는 것이 특징"이라고 강조했다. 대표적인 협업 사례는 현대제철이다. 에스투더블유는 현대제철이 원하는 맞춤 AI 챗봇을 기업이 자체 소유하고 운영하는 '온프레미스' 형태로 제공했다. 현대제철이 보유한 문서 13만건과 원천 시스템 8개를 활용해 AI 챗봇을 구현한 것이다. 서 대표는 "가장 중요한 것은 모델은 하나지만, 답변 과정에서 AI가 보안을 유지해야 한다는 것이었다"면서 "예를 들어 평사원이 최고경영자(CEO)만 알아야 할 질문을 했을 때, 이에 대해 답변하지 않아야 했고 직급별로, 공장별로 맞는 답변을 해야 했다"고 말했다. 또 에스투더블유는 날짜와 가격 정보를 정확히 처리하도록 설계했다. 예를 들어 "최신 가격을 알려 달라"고 했을 때 날짜 정보를 입력하지 않아도 최신 데이터를 분석해 답변하도록 했다.

서 대표는 "AI가 직면한 문제는 너무 많은 정보를 알고 있다는 사실"이라며 "악용되면 기업에는 치명적이기 때문에 AI를 보안하고 연결해 유기적으로 구현하는 것이 강점이자 미션"이라고 설명했다. 에스투더블유는 한국판 팰런티어를 꿈꾼다. 특히 다크웹 탐지 분석에 독보적이다. 사이버 범죄 인텔리전스 플랫폼인 자비스, 통합 사이버 위협 인텔리전스 플랫폼 퀘이사가 대표적이다.

[이상덕 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]