"질문의도 맞는 답변 찾는 RAG… AI시장 블루오션 될 것"[fn 이사람]

김정민 와이즈넛 글로벌사업전략본부장
내부데이터 검색해 정확도 높여
LLM·AI 홍수 속 필수기술 꼽혀
제조업 중대재해분야 활약 기대

김정민 와이즈넛 글로벌사업전략본부장 와이즈넛 제공

"각 기업의 니즈에 맞게 생성형 인공지능(AI)과 거대언어모델(LLM)을 활용할 수 있도록 보완해줄 기술로 '검색증강생성'(RAG) 기술이 떠오르고 있다. 와이즈넛은 이 부분을 선제적으로 공략하려 한다."

경기 성남시 분당구 와이즈넛 본사에서 지난 3일 만난 김정민 와이즈넛 글로벌사업전략본부장(이사·사진)은 AI시대 속 RAG 기술의 중요성을 강조했다. RAG는 기업 내부의 데이터를 검색해 LLM이 정확한 답변을 낼 수 있도록 돕는 생성형 AI 기술이다. 이용자 질문의 목적과 의도를 파악해 적합한 최신 정보(답변)를 제공한다.

빅데이터 소프트웨어(SW) 및 경영컨설팅 업체 검색 분야에 20년 가까이 몸담아 온 김 이사는 2016년 와이즈넛에 합류해 AI 검색·챗봇 솔루션 고도화 및 사업 확장에 집중해 왔다. 김 이사가 이끌고 있는 글로벌사업전략본부는 해외 사업, 전사 전략, 마케팅, 제품·제안 기획, 디자인 등을 총괄하고 있다.

김 이사는 2022년 오픈AI의 챗GPT 등장 이후 현재 AI 기술이 조정기를 겪고 있다고 판단했다. 내부 데이터에 민감한 기업 입장에서 AI를 현실적으로 활용할 수 있는 데는 비용적·효율적인 측면에서 여전히 한계가 있다는 설명이다. 이 같은 관점에서 향후 RAG에 대한 수요가 더욱 증가할 것으로 내다봤다.

그는 "RAG를 활용하면 기업 내부 정보에서 의도에 부합하는 의미있는 정보를 추출하고 할루시네이션(환각현상) 없이 정확한 데이터를 생성할 수 있다"며 "이렇게 되면 LLM의 커버리지에 속하지 않는 답변에 대한 보완이 가능하다는 장점이 있다"고 짚었다.

2000년 AI 사업에 뛰어든 와이즈넛은 언어처리기반의 검색기술을 꾸준히 고도화해 왔다. 올해 기준 국내 대기업부터 스타트업에 이르는 5000개 이상의 기업에 AI 솔루션을 공급하고 있다. 김 이사는 RAG 기술이 현재 적용되고 있는 금융·공공 시장뿐 아니라 향후 제조업 분야로 확장될 것으로 전망했다.

그는 "공정을 운영하는 제조업에선 특정 지식, 접근성, 변동성과 관련해 특화돼 있는 부분이 있다"면서도 "다만 폐쇄적이고 활용되지 않는 다크 데이터들이 많다. 이를 RAG로 잘 활용만 한다면 비용·효율뿐 아니라 중대재해와 같은 안전적인 측면에서도 LLM을 효과적으로 활용할 수 있을 것"이라고 말했다.

와이즈넛은 고객사의 사례를 바탕으로 3년차에 접어든 RAG 기반의 생성형 AI 개념검증(PoC) 사업을 조속히 마무리한다는 계획이다. 이 같은 노하우를 와이즈넛 솔루션에 접목해 기술 고도화에 집중하는 한편 향후 일본, 중동, 동남아 등 해외 시장 진출도 적극 모색하겠다는 방침이다. 김 이사는 "RAG 또는 클라우드 기반의 생성형 AI 시장 분야를 국내에서 넓힌다면 당연히 해외에서도 기회가 있을 것이라고 본다"며 "생산기지로 떠오르는 동남아 시장과 이미 파트너십을 쌓고 있는 일본 시장에서도 사업을 확장할 생각"이라고 밝혔다.

한편, 와이즈넛은 RAG 기술 고도화와 함께 자체 LLM 개발 및 솔루션 내 내재화도 '투트랙'으로 진행하고 있다. 김 이사는 "시장과 기업에서 원하는 기술, AI 시장에서 대안이 될 수 있는 솔루션에 집중하려 한다"고 덧붙였다.

jhyuk@fnnews.com 김준혁 기자

Copyright? 파이낸셜뉴스. 무단전재 및 재배포 금지.