다가올 에이전틱 AI 사회, '온톨로지'가 핵심 열쇠인 까닭

LLM의 '환각' 잡고 '추론' 돕는 AI 나침반... 온톨로지의 재조명

[디지털데일리 이건한 기자] 최근 전세계 인공지능(AI) 산업은 또 한번의 세대 전환기를 지나고 있다. 이제는 AI가 스스로 문제 해결에 필요한 계획을 세워 이전보다 복잡한 업무를 처리하는 '에이전틱 AI(Agentic AI)' 시대가 코앞이다. 이전처럼 단순히 사전학습된 지식 베이스로 질문의 답을 그럴듯하게 조합하는 'Q&A'형 AI 시대는 저물고 있다는 의미다.

다만 전문가들은 진정한 에이전틱 AI가 오려면 AI의 심장인 'LLM(대형언어모델)'에게 이전보다 정확한 나침반이 주어져야 한다고 입을 모은다. 지금의 LLM들은 매우 방대한 지식을 학습하고 있다. 하지만 실제로 지식들이 어떻게 연결되며 어떤 의미를 갖는지 체계적인 이해가 부족한 상황이기 때문이기 때문이다. 때때로 AI가 상식적인 질문에도 오답을 내놓는 환각(Hallucination) 문제가 발생하는 이유 가운데에는 이런 문제도 있다.

그럼 이 문제를 어떻게 해결할 수 있을까? 최근 주목받는 기술은 '온톨로지(Ontology)'다. AI에게 온톨로지란 특정 지식의 구조와 맥락이 정리된 일종의 '지도'다. 동시에 AI가 옳은 판단으로 나아갈 수 있게 돕는 '나침반' 역할도 한다. 한마디로 온톨로지는 LLM 내에 흩어져 있던 기존 데이터에 한층 체계적인 질서를 부여한다. 나아가 AI가 더 깊이 있는 추론과 답변을 생성하도록 이끄는 '길라잡이'도 된다.

◆ '마인드맵'과 닮은꼴? 온톨로지는 '관계와 연결' 그 자체

실제로 시각화된 온톨로지를 보면 생각의 연결도인 '마인드맵'과 유사해 보인다. 하지만 마인드맵이 이전 키워드에서 연상 가능한 요소를 무한히 추가하며 확장하는 구조라면 온톨로지는 한층 더 엄격한 기준이 적용된다. 특히 데이터와 데이터, 지식과 서비스 연결, 특정 요소의 관계-속성, 원인과 결과 등의 연결성에 매우 세세하고 합리적인 기준을 부여해 설계되는 것이 차이점이다.

만약 사용자가 AI에게 "밤 10시에 집 보일러 꺼줘"라는 명령을 했다고 가정하자. 일반적인 AI는 "네, 10시에 끄겠습니다"하고 순응하는 정도에 그칠 수 있다. 반면 고도화된 온톨로지가 적용된 AI는 집 안팎의 다양한 환경, 객체 요소를 고려해 다음과 같이 말할 수 있다. "네, 하지만 만약 아기방 온도가 20°C 미만이면 보일러 전원을 껐을 때 아이에게 해로울 수 있어요. 우선 21°C로 유지한 다음 순차적으로 끄는 건 어떨까요?"

물론 이 정도는 명령어(프롬프트)에 따라 일반 LLM도 소화할 수 있는 쉬운 예시에 속한다. 온톨로지의 진짜 가치는 이보다 훨씬 복잡한 데이터와 서비스 간 연결, 추론 영역 등의 고도화된 AI 활용 분야에서 빛을 발한다. 흔히 에이전틱 AI로 불리는 차세대 AI 시스템의 성공적인 구현도 온톨로지와 관계가 깊다. 에이전틱 AI는 기본적으로 다수의 AI가 서로 데이터를 주고받고 협업하며, 최적의 실행 도구를 골라 업무를 수행하는 자동화 시스템이기 때문이다. 이 안에서는 방대한 데이터 처리, 맥락 인지, 능동적인 상황 판단 능력이 어느 때보다 중요하다. 이에 자연히 온톨로지 기술이 최근 다시 한번 AI 업계의 주목을 받고 있다.

◆ 미국의 팔란티어, 한국의 솔트룩스

현재 온톨로지의 중요성을 일찍이 간파하고 비즈니스에서 성과를 거둔 주요 기업으로 미국의 팔란티어(Palantir)가 꼽힌다. 빅데이터 분석 솔루션으로 시작해 AI 시대에는 미국 중앙정보국(CIA), 연방수사국(FBI), 국방부 등으로부터 대규모 계약을 수주하며 유명해진 기업이다.

팔란티어의 온톨로지 기술 특징은 '키네틱 엘리먼트(Kinetic element)'와 같은 동적 요소 추가에 있다. 이는 단순한 지식 간 연결에서 나아가 온톨로지에 '행동 타입(Action Type)'이나 '기능(Functions)'과 같은 부가 요소를 추가해 모델이 특정 조건에서 어떤 행동을 취해야 하는지, 어떤 도구를 택해야 하는지 정의한다. 한마디로 명확한 행동 규범을 AI에게 제공하며 실행력까지 부여해 에이전트로서 AI의 가치를 높인다. 또한 행동의 일관성과 신뢰성 확보도 가능해 미국 정부기관 같은 조직과 협업이 가능했던 것이다.

한국에서는 국내 1세대 AI 기업 솔트룩스가 온톨로지 기술 강자로 꼽힌다. 배경은 지난 10년 이상 수행한 국가 R&D 프로젝트 '엑소브레인(Exobrain)'에 있다. 당시 솔트룩스는 현실 세계의 전체, 즉 '리얼월드(Real world)'를 가상 공간에 옮기는 디지털 트윈 연구를 담당했다. 회사에 따르면 이들은 이 과정에서 무려 400억 트리플(Triple) 구축 경험을 쌓았다. 트리플은 정보를 주어+관계+목적어 형태로 표현한 구조다. AI가 의미 기반의 지식 처리나 검색을 수행하고자 할 때 중요한 자산이다.

다만 초기 엑소브레인 연구 당시에는 리얼월드의 각기 다르고 규모가 방대한 데이터, 문서 정보처럼 아예 형태가 정해지지 않은 비정형 데이터 처리가 난관이었다. 특히 이 안에서 지식을 추출해 모델에 채워 넣는 '온톨로지 포퓰레이션(Ontology Population)'의 어려움은 상당한 수준이었다. 또한 데이터를 아무리 추가해도 실시간으로 생성되는 현실 데이터와 최신 정보에 대응하기 어려운 점도 난제였다.

하지만 고도화된 LLM이 다양한 형태의 '데이터 전처리 작업'에 활용 가능해지고 실시간 AI 웹 검색까지 가능해진 지금은 상황이 달라졌다. 이에 솔트룩스는 엑소브레인 시절 극도로 복잡하고 방대한 데이터를 다룬 경험을 바탕으로 독자적인 상업용 온톨로지 기술 완성에 성공한 사례다. 김재은 솔트룩스 연구소장에 따르면 "리얼월드 연구 시절에 비하면 지금의 기업용 온톨로지는 신뢰성, 정확성 개선 요구에 부응하는 일이 상대적으로 훨씬 쉬운 일"이라는 설명이다.

현재 팔란티어와 솔트룩스의 온톨로지 활용법은 사업 특성에 따라 차이를 보인다. 팔란티어는 '온톨로지 중심으로 LLM이 그 기능을 보완하는' 전략에 가깝다. 이들은 우선 글로벌 기업이나 공공 조직의 실제 업무 구조를 모델링(온톨로지)하는 데 초점을 맞춘다.이어 자사의 AIP(AI Platform)를 통해 GPT 같은 외부 LLM을 연동하는 형태를 취한다.

반면 솔트룩스는 '자체 개발한 LLM 기술에 온톨로지를 결합하는' 방식이다. 특히 한국의 법률, 행정, 언론 데이터처럼 현지에 특화된 도메인이 주요 타깃이다. 이때 온톨로지는 한국 고유의 사회·문화적 맥락을 LLM이 깊이 있게 이해하도록 돕는 역할을 한다. 최근 한국 정부가 중시하는 '주권 AI(Sovereign AI)' 강화 전략, 기업 특화 AI 개발 트렌드와도 맞닿는다. 또한 솔트룩스의 경우 자체 개발한 LLM(루시아), RAG(검색증강생성) 등 AI 풀스택 요소와 온톨로지를 결합해 경쟁사 대비 10% 수준인 AI 운영 비용도 내세운다.

◆ AI 시대의 '고고익선'...정확성, 효율성, 신뢰

결과적으로 온톨로지를 AI 시스템에 적용해 얻는 이점은 명확하다. LLM의 환각을 줄이고 데이터 간의 명확한 맥락을 제공해 추론의 정확성과 신뢰도를 높일 수 있다. 이는 AI가 일반소비자(B2C)에서 AI 안전을 더욱 중시하는 기업(B2B), 대정부(B2G) 시장까지 더욱 빠르게 확산될 수 있는 원동력이 된다. 수많은 AI 시스템이 정밀하게 연결되는 'AI 시티'나 AI 조직 전환 측면에서도 보이지 않는 나침반 역할을 톡톡히 할 전망이다.

이 밖에 고품질 온톨로지 접목의 이점은 다양하다. 특히 AI의 정보 탐색 효율, 처리 실패율 감소 등 AI 체질 개선에도 관여할 수 있다. 이는 현재 AI 산업의 과제 중 하나인 'AI의 경제성 개선'과 직결되는 요소다. 또한 온톨로지는 AI의 판단 근거를 논리적으로 추적하는 기반이 되기도 한다. '설명 가능한 AI(XAI)' 구현이 한층 쉬워진다는 뜻이다. XAI는 AI에게 더 많은 권한을 위임하게 될 미래 AI 사회에서 AI의 신뢰성을 보장하는 핵심 요소 중 하나로 꼽힌다.

종합하면 지금까지 LLM은 놀라운 자연어 처리 성능, 방대한 지식 규모, 유연한 사고 능력으로 기존 AI 한계를 돌파한 기술로 평가받았다. 이제 온톨로지는 여기에 한층 구조화된 이해와 판단 기준을 제시한다. AI가 인간과 더 가깝고 긴밀하게 협업하며 진정한 에이전틱 AI 시대의 도래를 가속하는 마중물로써 말이다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -