[2024 금융AI 혁신④] 이대론 '똑똑한 AI 은행원' 못만든다… 'AI 고도화' 막는 난제는?

[디지털데일리 박기록기자] “온통 AI를 얘기하고 있지만 실제로 AI를 폭넓게 활용할 수 있을지는 의문이다. 기술적인 측면 뿐만 아니라 본질이 규제 산업인 금융에 AI를 붙이는 것은 현실적으로 다양한 한계와 제약이 존재한다.” (시중은행 디지털혁신부서 관계자)

‘생성형 AI’가 출현한 이후, 금융권에선 ‘AI 은행원’(Banker)과 같은 AI 기반 혁신 금융서비스 경쟁이 더욱 가속화되고 있다.

연중 무휴(24/365)로 고객 응대를 해도 아무런 불만없이 친절하게 금융서비스를 제공하는 ‘AI 은행원’을 상상하는 것은 이제 어려운 일이 아니다.

그러나 이는 어디까지나 AI의 긍정적인 측면에서 바라본 기대일 뿐 금융회사 AI 담당자들이 마주하는 현실에선 오히려 걱정이 앞선다.

먼저, AI 기술의 진화가 아직도 맹렬하게 진화중이다. 이는 현재의 AI 기술을 기준으로 중장기 IT투자 전략을 짜기에 부담이 될 수 밖에 없다.

또 하나는 AI기술 검증의 문제다.

‘AI 은행원’이 고객에게 치명적인 오류나 잘못된 정보를 제공하는 리스크를 간과할 수 없기 때문이다. 아직은 AI은행원의 역할이 제한적이지만, 향후 서비스의 범위가 확대된다면 ‘금융 불완전판매’ 등 보다 복잡한 상황의 문제를 일으킬 수 있다.

이처럼 ‘설명할 수 있는 AI’(xAI, Explainable AI)를 포함한 폭넓은 ‘AI 윤리’의 문제가 금융권의 역동적인 AI 투자를 제약한다.

현실적으로 금융권에서 이러한 AI의 단점을 극복할 수 있는 유일한 방법은 ‘AI의 고도화’뿐이다.

예를들면 방대한 IT인프라 자원을 활용한 데이터를 꾸준한 학습하고, 축적해나가는 것이다.

이를 위해 금융회사들에게 필요한 것이 IT비용을 줄이면서 컴퓨팅 파워를 유연하게 조절할 수 있는 ‘클라우드(Cloud)’ 인프라의 원활한 활용이다.

그러나 현재 이러한 금융 클라우드의 원활한 활용은 사실상 불가능하다.

엄격한 금융 ‘망분리’ 규제때문이다. 인터넷으로 연결된 외부 클라우드 인프라의 활용에 관한 문제는 '금융 물리적 망분리' 개혁의 문제로 귀결된다.

결국 '금융 망분리 규제'부터 혁파하지 못하면 'AI 은행원(Banker)'은 신기루에 그칠 가능성이 높다.

<디지털데일리>가 창간 19주년을 맞이해 국내 주요 금융사 25개사를 대상으로 조사한 결과, 현재 국내 은행권과 보험, 증권업계 모두 ‘금융 AI’ 고도화의 걸림돌은 크게 ▲‘설명할 수 있는 AI의 윤리’의 확립 ▲‘금융 망분리 규제의 해소’ 두 가지로 요약됐다.

이밖에 ▲AI 전문인력 부족을 위한 육성 및 제휴 전략, ▲외부 AI업체에 휘둘리지않기위한 AI기술의 내재화 등도 중요한 과제로 인식했다.

먼저, ‘AI 윤리’의 문제, 환각(Hallucination)의 가능성은 국내 뿐만 아니라 AI 선진국에서도 AI를 공포스럽게 만드는 블랙홀이다.

이 문제는 그러나 AI 기술의 진화와 속도를 같이하면서 꾸준하게 제기될 것이란 점에서 금융회사들의 대응에도 어느 정도 한계를 인정할 수 밖에 없다.

그러나 두 번째 걸림돌인 ‘금융 망분리 규제의 해소’는 금융 당국이 정책적으로 당장 대응이 가능하다는 점에서 시급하게 현실적인 대안을 모색할 필요가 있다.

다만 설문 분석결과, 은행권과 2금융권의 반응에는 다소 차이가 있었다.

은행권은 주로 ‘AI 윤리’ 문제에 대해 상대적으로 민감하다는 반응이었고, 보험‧증권 등 2금융권은 ‘망분리’ 규제로 인한 클라우드 활용이 제약받는 것에 큰 불편을 호소했다.

◆은행권, AI 알고리즘 검증 부담… ‘AI 윤리’ 문제에 보다 민감

'AI뱅커'를 폭넓게 확장시키고 있는 우리은행은 '생성형 AI'의 등장에 따른 신뢰성 확보, 즉 'AI 윤리'문제를 중요한 도전 과제로 꼽았다. 즉, AI가 생성하는 결과물한 대한 법적 책임과 규제, 금융당국의 정책등에 효과적으로 대응하는 것이 과제라는 것이다.

하나금융도 'AI 알고리즘'을 명쾌하게 이해하는 것에 대한 부담을 어려운 과제로 꼽았다. '설명가능한 AI(xAI)'에 대한 대응이 가장 큰 현안이라는 것이다. 이 때문에 하나금융그룹은 올해 3월 AI윤리 강령을 자체적으로 수립하고, 궁극적으로 공정하고 안전한 금융AI서비스 제공을 목표로 제시했다고 밝혔다.

KB국민은행은 AI 확산과 관련한 금융 규제적 측면과 기술의 신뢰도 문제 두 가지 문제를 동시에 거론했다.

먼저 ‘규제적 측면’의 경우, 기존 망분리 규제로 인해 클라우드 기반 생성형AI 도입에 걸림돌이 되고 있다고 밝혔다. 은행측은 "올해 3월 구성된 '금융권 AI협의회'에서 망분리 예외 의지를 피력한 만큼 제도 개선을 기대한다"고 전했다.

‘기술 신뢰도’의 문제는 생성형AI 이용시 환각(할루시네이션)으로 인한 답변의 부정확성을 꼽았다. 이를 극복하기위해 국민은행은 "RAG(Retrieval-Augmented Generation) 학습데이터 구축등 양질의 데이터 확보를 통해 답변의 오차범위 최소화에 노력하고 있다"고 밝혔다.

신한은행도 클라우드 활용한 AI서비스 개발이 가속되고 있지만 망분리 요건이 이를 막고 있다고 지적했다. 아울러 AI 신기술 활용 환경에 대한 합리적 정책 수립이 필요하다는 의견을 제시했다.

◆보험·증권 등 2금융권… "클라우드로 속시원하게 AI 활용할 수 있는 망분리 규제 철폐" 압도적

국내 주요 보험 및 증권사들은 AI 적용시 가장 걸림돌이 되고 있는 요인으로 '금융 망분리 철폐'를 상당히 높은 비중으로 응답했다.

'AI윤리' 문제도 물론 중요한 도전과제이지만, 그것에 앞서 당장 AI서비스를 저비용 고효율 구조로 활용하기위한 IT인프라 환경 구축을 보다 현실적인 과제로 보았다. IT투자 비용이 은행권에 비해 크게 열세인 보험· 증권사들의 경우, 이를 해소하기위한 클라우드 인프라의 활용이 중요하기 때문이다.

KB, 신한, 하나, 우리금융 등 4대 금융그룹 계열의 보험·증권사들의 그나마 '그룹 통합 AI플랫폼'을 통해 부담을 줄일 수 있겠지만 개별 회사들로서는 AI기반 서비스 고도화가 결코 만만치 않은 과제라는 분석이다. 여기에 AI인력부족과 기술적 내재화 등에 대한 고민도 많았다.

삼성화재는 망분리 규제에 대한 금융 당국의 정책적 해결이 필요하다고 지적했다. 망분리 규제가 클라우드 기반 AI서비스 플랫폼 구축에 현실적 제약요인이란 설명이다. 이와함께 AI개발자 뿐만 아니라 서비스기획, 시스템 운영 인력의 충원도 필요한 상황이라고 답했다.

NH농협생명은 망분리 규제외에 생성형AI 도입과 관련한 전자금융감독규정 적용 및 해석 사례가 없다는 점을 문제점으로 꼽았다. 아울러 AI 활용시 데이터 품질의 정확도, 전문 인력과 충분한 예산의 확보, AI활용시 대고객 신뢰의 문제 등을 해결해야할 과제로 꼽았다. 농협생명측은 "망분리 규제 완화가 가장 좋은 해법이지만 시간이 많이 소요될 것으로 본다"며 "후선지원업무 중심으로 AI를 적용해 디지털변화에 대응할 계획"이라고 밝혔다.

한화손보도 "AI사업을 진행하기위해 제3자 제공 서비스 및 클라우드 SaaS서비스를 사용할 필요가 있으며, 특히 오픈AI사의 GPT를 사용하기위해선 인터넷연결이 필수지만 망분리 규제로 내부시스템에 대한 인터넷망 연결이 제한되고 있다"고 설명했다. 또한 AI개발 생산성을 위해선 인터넷 검색외에 외부 오픈소스를 활용해 선행개발 및 기술점증해야하는데 이것도 망분리 규제로 제한되고 있다는 점을 강조했다.

AIA생명은 금융권 데이터 보안규제를 걸림돌로 지적했다. AIA생명측은 "지속적으로 대용량 데이터를 유입시켜 다양한 머신러닝 모델을 학습시키는 것이 현실적인 어려움"이라며 "특히 생성형AI의 경우 AIA그룹에서 서비스 개발후 타국가에 적용된 서비스가 있어 도입을 검토했으나 법적 규제로 국내에선 바로 적용 어려워 별도 구축까지 검토하는 상황"이라고 소개했다.

신한금융그룹 계열의 생보사인 신한라이프는 챗GPT와 바드(제미니) 등 생성형AI를 통한 업무 확대를 시도중이지만 현재는 데이터선별 방식에 여러 한계점이 노출되고 있다는 점을 지적했다. 회사측은 "AI가 생성한 답변에 편향된 데이터, 또 불완전한 데이터가 포함될 가능성과 함께 환각 현상을 극복할 정확성과 신뢰성을 확보하는 것이 과제"리고 강조했다.

국내 1호 인터넷전문보험사인 캐롯손보는 'AI기술 적용 및 민감 데이터에 대한 가이드라인'이 구체화될 필요가 있다고 밝혔다. 고객으로부터 활용동의를 받는 데이터에 대한 보관 기간을 비롯해 데이터 활용 범위에 대한 정책이 명확해지거나 사용범위에 한 제약이 완화될 수 있다면 도움이 될 것이란 지적이다.

특히 비정형 데이터의 경우 가명처리에 대한 기준이 불분명하기 때문에 정확한 기준이 필요하며, 개인정보 데이터를 통한 학습 자체가 학습 추론 결과에서 노툴등의 위험이 있기 때문에 특정 학습 데이터의 전처리 가이드라이이 있다면 AI 적용 및 보험업 말전에 도움이 될 것으로 예상했다.

한편 증권사들도 보험사들과 크게 다르지 않았다. 망분리 규제 문제를 기본적으로 전제하고, 각 사마다 이슈가 조금씩 달랐다.

키움증권은 "특정영역이 아닌 전사적 관점에서 AI기술 및 내재와 전략 필요하다"며 "AI전환 과정에서의 시행착오를 최소화하는 것에 대한 노력이 필요하다"고 밝혔다. 이를위해 키움증권은 AI혁신 TF를 운영하고 있다.

NH투자증권은 정보호보를 가장 큰 과제로 꼽았다. 외부에서 제공되는 기술들을 충분히 활용하기에는 제약 사항이 발생하고 있으며, 결국 내부에서 활용할 수 있는 AI기술을 확보해야하는데 이는 비용 및 인력 확보의 문제가 되고 있다는 지적이다.

미래에셋증권은 "실업무에 AI를 도입하기위해선 고성능 인프와 파운데이션 모델 구성을 각 금융사가 직접 내부망에 해야만하는데, 이런 방식으론 비용문제와 빠르게 변화하는 기술에 대한 유지보수가 쉽지않은 상황"이라고 전했다.

KB증권은 AI전문 인력의 확보를 가장 도전적인 과제로 꼽았다. 아울러 KB증권은 "망분리 규제로 인해 SaaS(서비스형소프트웨어) 도입을 통한 금융혁신서비스 제공에 어려움이 있으며, 규제샌드박스 혁신금융서비스 신청을 통해 제한적인 환경에서라도 혁신적인 신기술을 제공할 계획"이라고 밝혔다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -