"AI확장에 보안 우려"…25년 재직 회사 떠나 창업한 아이템은?

[ABCD 뉴프론티어] 윤두식 이로운앤컴퍼니 대표

[편집자주] 인공지능(AI)·빅데이터(Bigdata)·클라우드(Cloud) 등 기술로 디지털전환(DX)을 선도하는 유망 기업들을 조명합니다.

윤두식 이로운앤컴퍼니 대표 /사진=김휘선 기자 hwijpg@

윤두식 이로운앤컴퍼니 대표는 '지란지교맨'이었다. 1999년 지란지교소프트의 전체 인원이 10여명에 불과했을 때 '사번 17번'으로 입사했다. 윤 대표는 지란지교소프트의 보안사업본부가 '지란지교시큐리티'로 분사할 때 자리를 옮겼고 지난해까지 지란지교시큐리티의 대표이사로 재직했다.

자신의 SNS 계정을 통해 이로운앤컴퍼니 창업을 밝힌건 최근이다. 거시 경제 불확실성이 커진 상황이라 우려도 있지만 25년 둥지를 떠나 창업을 결정한 만큼 창업 아이템에 대한 윤 대표의 확신이 크다는 점을 방증한다. 윤 대표는 머니투데이와의 인터뷰에서 "생성형 AI(인공지능)를 더 안전하고, 더 편하게 사용할 수 있는 보안 솔루션을 만들고자 창업했다"고 밝혔다.

다수의 보안 기업들이 생성형 AI를 활용하지만 주로 자사의 보안 솔루션에 LLM(거대언어모델)을 접목해 성능을 높이거나 이용자가 더 쉽게 사용할 수 있도록 해주는 데 주력하는 수준이다. 반면 윤 대표의 이로운앤컴퍼니는 생성형 AI를 타깃으로 한 보안을 사업 분야로 정했다. 생성형 AI에 대한 기대감만큼 보안우려도 큰 상황에서 기업·기관들이 안심하고 생성형 AI를 활용할 수 있도록 하겠다는 것이다.

글로벌 보안 비영리단체인 OWASP(오픈웹 애플리케이션 보안 프로젝트)는 LLM과 관련한 10가지 취약점을 언급한 바 있다. LLM에 프롬프트(명령문)를 입력하는 등 전처리 단계에서의 기밀·개인정보 유출 우려에서부터 LLM을 통해 답변을 받아내는 과정에서의 편향성, 유해성에 대한 후처리 과정에서의 우려요소까지 아우르는 내용들이다.

윤 대표는 "지금은 사람이 LLM에 질문을 던져서 답을 받아 활용하는 수준에 그치지만 나중에는 자동화된 에이전트가 붙어 RPA(업무자동화)와 같은 형태로 LLM이 활용될 것"이라며 "에이전트들이 엉뚱한 질문을 던지고 LLM의 답을 제대로 해석하지 못할 경우에는 엄청난 부정적 영향이 생길 수 있다"고 전망했다. 생성형 AI의 활용이 확산할수록 생성형 AI 자체를 타깃으로 한 보안 솔루션에 대한 수요는 더욱 커질 것으로 기대하는 이유다.

그는 "프롬프트를 입력하는 단계에서부터 기밀·개인정보 유출 여부를 탐지하고 이용자가 해당 위해우려 요소를 차단하거나 변경·격리할 수 있도록 할 것"이라며 "LLM이 내놓는 답을 받아오는 과정에서도 유해성, 편향성 등을 탐지해 어떤 것을 그대로 통과시키고 어떤 것을 차단·변경·격리할지도 이용자가 결정할 수 있도록 할 것"이라고 했다.

또 "생성형 AI를 활용할 때의 계정 관리나 비용 통합결제 등을 더하면 기업·기관 등이 생성형 AI를 더 안전하고 편하게 사용할 수 있게 될 것"이라며 "6월말까지 이같은 기능을 담은 MVP(최소기능제품)을 내놓고 민간·공공의 기업·기관을 대상으로 PoC(기술검증)에 착수할 예정이다. 올해 말까지 전체 기능을 담은 베타 버전을 출시해 내년부터 본격 매출을 일으킬 것"이라고 했다.

이로운앤컴퍼니가 만들 이 제품은 클라우드 기반 SaaS(서비스형 소프트웨어) 형태나 서버에 해당 기능의 소프트웨어를 장착한 어플라이언스 형태로 공급될 예정이다. 클라우드를 적극 활용하는 기업·기관은 물론이고 자체적으로 설비를 구입해 IT자산을 운용하는 곳까지 고객으로 삼기 위해서다.

윤 대표는 "지난 25년간 실제 고객을 만나고 이들을 돕는 과정에서 매출을 일으키고 꾸준히 성장하는 사업을 해왔다"며 "'기술로 기업을 이롭게 하겠다'는 회사 이름의 취지를 살려 어려운 때에도 실적을 달성해 기업 가치를 키워나갈 것"이라고 했다.

황국상 기자 gshwang@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지