'정보' 먹고 크는 생성형AI … 빅데이터 포식자 점점 똑똑해진다

황윤희 LG CNS 상무가 1일 세종대에서 열린 한국빅데이터학회 추계학술행사에서 '데이터와 AI 제조사 혁신 방안'이라는 주제로 강연을 하고 있다. 한국빅데이터학회

생성형 AI는 단순히 업무 효율을 높여주거나 비용 절감 효과를 가져다주는 '기술 도구'를 넘어 새로운 비즈니스 모델을 제시하는 '게임 체인저' 역할을 하고 있다. 기업들이 AI 기술을 자사 비즈니스에 발 빠르게 접목하며 새로운 혁신 공간을 만들어내는 데 열을 올리고 있는 이유다. 여기서 중요한 사실은 챗GPT와 같은 AI는 '데이터'를 기반으로 스스로 진화를 거듭하는 기술이라는 점이다. AI가 더욱 똑똑하게 작동하기 위해서는 양질의 데이터가 학습 자료로 제공돼야 한다. 그런 측면에서 데이터를 많이 보유한 기업일수록 AI 기술을 향상시키는 선순환 역할을 하는 동시에 AI 활용 측면에서도 유리한 고지를 차지하게 된다. 지난 1일 한국빅데이터학회는 매일경제신문·MBN과 함께 세종대에서 '생성형 AI와 빅데이터 가치 창출'을 주제로 추계학술대회를 개최했다. 학계와 기업 관계자 600여 명이 모인 자리에서 AI 시대 빅데이터 활용 전략에 대한 연구 결과와 AI 기술의 비즈니스 접목 사례가 소상히 공유됐다.

첫 기조강연에 나선 윤창현 코스콤 대표는 '금융산업의 생성형 AI 혁신'이라는 주제로 발표했다. 그는 "현재 생성형 AI 기술이 캄브리아기 생명체의 대폭발과 같은 혁신적 변화를 겪고 있다"며 "특히 멀티모달 AI의 등장으로 AI가 '눈'을 갖게 되면서 금융산업의 근본적인 변화가 시작됐다"고 설명했다. 그러면서 "메타, 구글 등 빅테크 기업들이 선보인 대형언어모델(LLM)의 성능이 급격히 개선되고 있다"며 "이에 따라 금융기관들도 자체 AI 모델 개발에 속도를 내고 있다"고 말했다.

다만 금융권의 AI 도입에는 △기술력과 인력·예산 부족 △데이터 품질 문제 △프라이버시와 보안 우려 등이 걸림돌로 지적된다. 이에 대해 윤 대표는 파인튜닝(Fine Tuning), 검색증강생성(RAG·Retrieval-Augmented Generation), 프롬프트 엔지니어링 등의 기술적 해결책을 제시했다. 특히 금융권의 망분리 규제와 관련해 한국은행의 '망 개선(안) 실증 사업'과 국정원의 '다중보안체계(MLS) 로드맵'이 규제 완화의 전환점이 될 것으로 전망했다. 윤 대표는 "코스콤은 다양한 AI 혁신 전략을 실행에 옮기고 있다"며 "금융·IT 특화 LLM 개발, 제로트러스트 기반 보안체계 구축은 물론 차세대 인터넷데이터센터(IDC), 증권사 AI콘택트센터(AICC·AI Contact Center) 사업 등을 적극 추진하고 있다"고 말했다.

이날 추계학술대회에선 금융, 통신, 제조 등 다양한 분야에서 적용 중인 AI 활용 전략이 소개됐다. 홍두선 한국평가데이터 대표는 "기업신용평가(CB·Credit Bureau) 산업의 패러다임이 빅데이터와 결합한 AI 중심으로 전환되고 있다"며 "기업신용평가 시장에서 AI의 활용은 성패를 가르는 중요한 요인이 될 것"이라고 강조했다. 그러면서 그는 "다양한 정보 수집과 복잡한 기업 환경 분석이 필요한 기업 CB 업무 전반에 AI를 활용할 경우 업무 전반의 생산성 향상과 리스크 관리 등이 가능할 것"이라고 내다봤다.

지난 7월 한국평가데이터 대표로 취임한 홍 대표는 최근 'AI 기업으로의 전환'이라는 중장기 전략을 수립하고 CB 업계 최초로 AI 기반의 업무 디지털 전환 및 서비스 개발에 나섰다. 이에 따라 한국평가데이터는 현재 신용평가 모형에 XAI(eXplainable AI·설명이 가능한 AI) 알고리즘을 적용해 통계 기반의 평가모형과 병행해 평가를 진행하고 있다. 업무 자동화 영역 및 대고객 서비스에 AI 알고리즘을 적용하는 것 또한 전환 단계 초입에 들어섰다.

홍 대표는 한국평가데이터가 생성형 AI를 기업신용평가에 활용하는 기업신용평가, 조기경보 등 사례도 소개했다. 그는 "기업신용평가 모델링 단계 및 데이터 확대에 AI를 적용하거나, 평가자의 수집 정보 요약, 등급 조정 의사결정, 평가 의견 작성 등을 보조하는 데 생성형 AI를 활용하면 효율과 품질이 한층 개선된다"고 설명했다. 재무 및 금융 거래 자료가 빈약한 신설 유망기업에 대해서도 합리적인 평가가 가능하다는 분석이다. 유망한 중소기업 발굴 차원에서 한국평가데이터는 기업의 성장성을 제대로 평가하기 위한 서비스도 준비 중이다. 홍 대표는 "성장 잠재력이 높은 중소 유망 기업을 발굴·지원하기 위해 머신러닝 알고리즘을 활용한 '성장 잠재력 지수'를 개발했다"면서 "기업 지원 대상을 선별하고, 민간 금융기관의 자금 지원과 자본시장의 투자 대상을 선정하는 데 활용할 수 있을 것"이라고 말했다.

정소이 LG유플러스 AI·데이터엔지니어링 담당(상무)은 'AI를 흥하게 하는 데이터 전략'을 주제로 국내 기업의 AI 전략에 대해 설명했다. 그는 "국내 기업들은 빅테크와 LLM 경쟁을 회피하되 협력하고 활용하는 전략을 펴고 있고, 기업의 특화된 데이터를 바탕으로 소형언어모델(sLLM)을 개발하는 방향으로 가고 있다"며 "부족한 답변의 정확도를 올리기 위해 RAG에 집중하는 한편 동시에 데이터의 품질을 높이기 위해 힘쓰고 있다"고 말했다.

나아가 AI 에이전트 시대가 도래했다고 설명했다. 정 상무는 "에이전트는 고객과의 소통을 더욱 원활하게 도와 고객 만족도를 높이고, 복잡한 업무를 자동화하면서도 직원들의 의사결정을 대신할 수 있다"며 "고객 서비스 분야에 적용된 AI 에이전트는 고객의 질문에 신속히 답하고 문제를 해결함으로써 사용자 경험을 향상시킬 수 있고, 기업 내부에서는 데이터를 분석해 효율적인 경영 전략을 수립하는 데도 도움을 줄 수 있을 것"이라고 설명했다.

LG유플러스는 최근 미디어, 콜센터, 챗봇, 코딩, 데이터분석, 마케팅 업무지원 등 다양한 서비스와 업무에 AI 에이전트를 적용하고 있다. 정 상무는 에이전트 간 협업이 가능한 환경을 구축하는 것이 기업의 차별화된 경쟁력으로 이어질 수 있다고 강조했다. 예컨대 하나의 AI 에이전트가 고객의 문의 사항을 처음 접수하면 다른 에이전트가 해당 데이터를 활용해 맞춤형 상품을 추천하고 문제를 해결하기 위한 지원 등을 제공할 수 있다는 설명이다.

그는 "AI 에이전트 간 협업이 원활히 이뤄지기 위해서는 무엇보다 통합적이고 개인화된 데이터가 필요하다"며 "여러 에이전트들이 상호 보완적인 역할을 수행하기 위해서는 각 에이전트가 접근하는 데이터가 일관돼야 하고, 이를 위해 데이터 관리와 품질 유지가 중요하다"고 강조했다.

정지선 NH농협은행 데이터사업부장은 빅데이터와 AI를 활용한 혁신적인 금융 서비스의 실증 사례를 발표했다. NH농협은행은 지난 6월 은행권 최초로 딥러닝 기술을 활용한 실시간 AI 상품추천 서비스를 개발했다. 'AI 상품추천'은 빅데이터와 AI기술을 접목해 고객의 금융상품 가입 니즈를 예측하고, 최적의 개인 맞춤 상품을 추천하는 서비스다.

정 부장은 "딥러닝 기반의 예측형 AI모델에 생성형 AI인 LLM을 결합해 상품추천 서비스의 완결성을 높일 계획"이라며 "현재 한국어 생성 성능이 우수한 언어 모델을 빅데이터 플랫폼에 장착하고, 고객 니즈에 가장 적합한 상품을 친절하게 문장형으로 제안하는 'AI상품추천문구'를 개발 중"이라고 말했다.

국내 가상화 소프트웨어 기업 오케스트로의 박소아 DX융합기술원장은 '공공의 AI 혁신 사례'를 주제로 발표했다. 그는 "공공 서비스 개선의 핵심은 데이터 분석을 통해 과거를 이해하고 미래를 예측해 최적의 의사결정을 지원하는 것"이라고 강조했다. 그러면서 "생성형 AI는 방대한 공공 데이터를 효율적으로 처리하고 분석해 기존의 통계 기반 방식을 넘어선 정교하고 예측 가능한 공공 서비스 제공을 가능하게 한다"며 "이를 통해 시민들은 더욱 향상된 공공 서비스를 경험하고, 공공기관은 운영 효율성을 높일 수 있다"고 말했다.

공공 부문에서 생성형 AI를 활용할 때 고객 정보나 기밀 데이터의 유출 위험이 존재하고, AI의 환각 현상(Hallucination)으로 잘못된 정보가 생성될 수 있어 정책 결정이나 서비스 제공에 부정적인 영향을 미칠 수 있다. 이에 대해 박 원장은 "오케스트로는 이 같은 AI의 한계점을 극복하기 위해 프라이빗 AI(Private AI) 기반의 안정하고 효율적인 솔루션인 오케스트로GPT를 개발했다"고 소개했다.

우종필 한국빅데이터학회장(왼쪽)이 '우수 논문' 수상 영예를 안은 수상자들과 기념 촬영을 하고 있다.

한편 이날 행사에선 한국빅데이터학회에서 수여하는 우수 논문 시상식도 함께 개최됐다. 빅데이터분석학회(BDA) 소속 덕성여대 이현지 씨·동국대 윤서현 씨·한국외국어대 강연우 씨가 '육·해상 풍력발전기의 기상 요인과 발전량 예측 간의 상관관계 분석: 영광 풍력 발전소를 중심으로(공저)'라는 주제로 수상의 영예를 안았다.

[김대기 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]