SK㈜ C&C, NH농협은행에 '생성형 AI기반 질의응답 서비스' 구축

SK㈜ C&C가 NH농협은행 '생성형 AI 기반 질의응답 서비스 구축 사업'에 착수했다.

이번 사업은 NH농협은행이 구축한 개방형 '인공지능(AI) 기술 허브 플랫폼'에서 운영 중인 △AI은행원 △금융업무에 따른 차별화된 음성합성기술(TTS) △지능형문서처리 서비스 등에 생성형 AI 기반 질의응답 서비스를 추가하는데 목적이 있다.

'생성형 AI기반 질의응답 서비스'를 통해 AI가 업무 규정과 가이드는 물론 은행내 각종 보고서까지 훑어내며 은행원 업무 처리를 지원할 방침이다. 향후에는 대고객 서비스로 확장해 고객 응대도 지원할 계획이다.

이를 위해 SK㈜ C&C는 은행 업무 영역별 지식 저장소와 MS애저 기반 '오픈 AI'를 연계한 AI프롬프트를 활용해 업무별 질의응답 서비스를 구현한다.

지식 저장소는 데이터 등록 시 별도 수기 작업 없이 자동으로 데이터를 처리한 후 저장할 수 있다. 파편화된 원천 데이터를 연동해 단일 저장소로 저장·관리해 효율적인 데이터 탐색과 활용을 지원한다.

사람이 정해 놓은 시나리오 기준으로 답변하는 기존 AI챗봇과 다르게 생성형 AI를 애플리케이션 프로그래밍 인터페이스(API)로 연계, 활용한다. AI가 은행 내부 지식 저장소의 방대한 데이터를 통해 직접 답변한다.

'생성형 AI 기반 질의 응답 서비스'의 가장 큰 특징은 'AI프롬프트 최적화 엔진'이다. 사용자 질문 의도를 파악하고 질문에 가장 적합한 프롬프트를 선택해 최적의 답변을 제공하는 기능이다. 프롬프트는 AI가 최적의 결과물을 만들어낼 수 있도록 사용하는 지시문이다.

답변 신뢰성 확보를 위해 출처를 표기하고 출처 정보 제공을 위한 하이라이팅 기능도 제공한다.

SK㈜ C&C는 생성형 AI기술 활용으로 생길 수 있는 리스크 대비를 위해 국가정보원, 금융보안원 등이 제시하는 가이드라인을 준수한다. 은행 내 민감 정보 외부 유출을 원천 차단하는 보안 기술도 적용한다.

김화중 SK㈜ C&C 금융디지털 혁신그룹장은 “NH농협은행이 AI 디지털 전환을 통한 업무 혁신에 관심이 높은 만큼 다양한 업무 영역에서 생성형 AI 기술 확대가 기대된다”며 “SK㈜ C&C는 NH농협은행의 디지털 ITS파트너로서 은행 업무 현장 곳곳에서 디지털 AI 기반의 다양한 금융 혁신을 적극 지원하겠다”고 말했다.

SK㈜ C&C CI

박두호 기자 walnut_park@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]