[2025전망 금융IT이노베이션] "AI 시대, 가치창출 관건" IBM이 꼽은 5가지 핵심 요소는?

[디지털데일리 김보민기자] 인공지능(AI) 시대가 도래하면서 금융권 안팎에서 희비가 엇갈리고 있다. 일부는 AI 기술이 차별화된 혁신을 가져올 수 있다고 기대하지만, 일각에서는 인력과 적용 환경이 마땅치 않아 우려를 표하기도 한다. 가치 창출 측면에서 복잡한 셈법이 이어지는 분위기다.

IBM은 AI 플랫폼을 기반으로 금융혁신을 가속화할 수 있을 것으로 전망하고 있다. 특히 데이터, 모델, 거버넌스, 어시스턴트, 에이전트 등 주요 구성 요소를 기반으로 각 조직에 맞는 AI 환경이 구현될 수 있을 것으로 자신했다.

최석재 한국IBM 상무는 12일 서울 중구 롯데호텔에서 디지털데일리가 개최한 '금융IT 이노베이션' 콘퍼런스를 통해 금융권이 AI 전환에 집중하고 있다고 밝혔다. 최 상무는 "AI 분야에서 인력을 발굴하고 영입하려는 노력이 이어지고 있고, 구축형(온프레미스) 자체로 해결이 어려운 영역이 있다는 점을 고려해 하이브리드 클라우드 환경도 구축하려 하고 있다"고 진단했다.

다만 AI 기술을 활용하는 것이 실제 조직 내 가치를 창출할지는 지켜볼 부분이다. 최 상무는 "초기 실험과 검색증강생성(RAG) 및 미세조정(파인튜닝)을 넘어 자동화 단계에 진입할 때 실제 생산성이 향상될 수 있다"며 "궁극적으로 AI가 적용됐는지 모르는 채 가동하는 환경을 구현하게 되는 것"이라고 설명했다.

이날 최 상무는 기업 가치를 높이기 위한 AI 구성 요소로 ▲데이터 ▲모델 ▲거버넌스 ▲어시스턴트 ▲에이전트 등 다섯가지를 언급했다.

데이터의 경우 AI 기술을 위한 기본 재료다. 최 상무는 "실제 챗GPT 등 퍼블릭 서비스를 활용했을 때, 실질적으로 우리 기업에서 사용할 수 있는 데이터가 얼마나 될 것이냐 물으면 1%에 불과하다"고 말했다. 이어 "많은 툴을 적용하기도 하지만, 실제 업무를 위한 데이터를 별도로 구성해야 한다"고 제언했다.

별도 데이터 구성 방식은 다양하다. 최 상무는 "데이터 레이크하우스는 AI 업무에 적합한 구조를 갖추고 있다"며 "저장돼 있지 않은 기타 다른 업무 시스템의 데이터를 연결해 보여줄 수 있는 환경이기 때문에 AI를 활용할 수 있는 인프라"라고 부연했다.

IBM은 왓슨x데이터(watsonx.data)를 통해 이를 지원하고 있다. 이는 목적에 맞는 쿼리 엔진을 사용하고 공간에 제약 없이 모든 데이터에 접근할 수 있게 한다. 아울러 생성형 AI를 활용해 탐색과 데이터 확장도 가능하다.

각 조직에 맞는 목적형 모델을 도입하는 것도 중요하다. 최 상무는 "현재 (시장에 나온) AI 모델은 수십만개, 수백만개에 달한다"며 "그 중 일명 잘나가는 소수 모델은 '스포츠카'라고 불리는데, 스포츠카는 많은 연료가 필요하다는 특징이 있다"고 표현했다. 거대언어모델(LLM) 또한 운영을 위해 값비싼 그래픽처리장치(GPU) 등 원료가 필요하다는 취지다.

최 상무는 "정량화된 오픈소스 모델을 가져다 쓴다는 것에 대한 한계가 있다"며 "IBM은 인스트럭트랩(InstructLab)을 통해 조직이 비즈니스에 필요로 하는 모델을 갖추도록 돕고 있다"고 설명했다. 인스트럭트랩은 최소한의 비용으로 최첨단 모델 성능을 구현하는 데 특화돼 있다. 모델 훈련을 위한 예제 생성부터, 티처 모델, 비평 모델, 학생 모델까지 맞춤화가 가능하다.

거버넌스를 따라가는 것도 중요해질 전망이다. 최 상무는 "유럽연합(EU)은 발 빠르게 AI 규제 법안을 만들었고, 한국도 (AI기본법) 흐름을 따르는 중"이라며 "IBM은 거버넌스 체계에 대해 고민을 해온 만큼, 모니터링 등 기능을 제공하고 있다"고 말했다.

이외 어시스턴트와 에이전트 영역에서도 AI 전략이 고도화될 것으로 보인다. 최 상무는 "내년 그리고 내후년에 이런 형태의 제품을 소개할 수 있을 것으로 예상한다"고 강조했다.

한편 IBM은 AI 및 왓슨x 고객 지원 프로그램을 운영하고 있다. 대표적으로 왓슨x를 활용해 고객사 비즈니스 요구사항에 맞는 솔루션을 정의하고 적용 방안을 도출하는 '디스커버리 워크샵'을 지원한다. 생성형 AI 활용을 위한 실습 기반 교육을 제공하는 '인큐베이션 프로그램'도 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -