"망분리때문에 금융회사 '생성형 AI'활용 크게 제약"… '금융권 AI 협의회' 발족, 돌파구 찾는다

- 금융권의 생성형 AI 활용 활성화를 위해 전 금융업계·학계·유관기관 참석

- 생성형 AI 특성을 고려한 규제방안, 양질의 데이터 확보방안 등 논의

- '금융 망분리' 폐지할 수 없는 현실적 국내 금융권 상황 고려

[디지털데일리 박기록기자] 국내 금융권의 폭넓은 '생성형 AI' 활성화에 직접적인 걸림돌로 작용하고 있는 '금융 망분리' 규제에 효율적으로 대응하기위한 '금융권 AI 협의회'가 출범한다.

'생성형 AI'는 클라우드 등 인터넷 환경에서의 활용이 불가피하나, 현재 국내 금융권의 경우 망분리 규제로 인해 인터넷을 통해 직접적으로 생성형 AI 접근이 불가능한 상황이다.

당장 '금융 망분리' 규제를 철폐할 수 없는 상황이지만 이같은 현실적 제약을 극복하면서 '생성형AI'의 활용 방안을 극대화하는 방안을 찾자는 것이 '금융권 AI협의회'의 출범 취지다.

금융위원회는 28일, 김소영 부위원장 주재로 '금융권 AI 협의회'발족식을 개최하고, 금융권의 '생성형 AI 활용'을 활성화하기 위한 협의회 설립과 향후 협의회에서 논의가 필요한 사항 등에 대해 논의했다고 밝혔다.

김소영 부위원장은 이날 모두 발언에서 “전세계적으로 생성형 AI의 활성화 및 안전한 활용이 국제적으로도 논의되고 있다”며 “지난달 실시한 업권별(금융투자-은행-보험) 릴레이 간담회를 통해 망분리 규제, 양질의 데이터 확보, AI 거버넌스의 필요성 등 애로사항을 청취했다”고 말했다.

금융위에 따르면, 이날 금융보안원의 김성웅 AI혁신실장은 “금융회사가 생성형 AI를 활용하는 경우 망분리 규제 준수 여부, 데이터 현지화 이슈 등이 발생하기 때문에 향후 협의회에서 논의해 문제를 해결할 필요가 있다”고 말했다.

또 신용정보원의 이철흠 금융AI데이터센터장도 “생성형 AI를 제대로 활용하기 위해서는 AI의 학습 등을 위한 양질의 데이터가 확보가 동반돼 한다”며 신용정보원 등이 보유한 공적 데이터를 우선 제공하는 방안 등을 사례로 소개했다.

발제 이후 자유토론에서 신한은행 임은택 본부장은 “망분리 규제 등 애로사항에 대해 금융당국이 깊은 공감을 해준다는 점에서 기대가 되고, 향후 실무분과 등에 적극 참여하겠다”고 기대를 나타냈다.

또한 현대해상의 정규완 본부장도 “릴레이 간담회에서 건의했던 데이터 관련 이슈가 이렇게 긍정적으로 논의된다면 생성형 AI 활용에 큰 도움이 될 것으로 보인다”고 환영했다.

한편 금융연구원의 박해식 부원장은 “금융업계에 생성형 AI의 활용이 확산되면 업무 효율화에 따른 비용절감, 금융상품 및 서비스 개발 확산, 내부통제 고도화 등 긍정적인 효과가 기대된다”면서도 “생성형 AI의 안전한 활용에 대한 논의도 수반돼야한다”고 제언했다.

금융위원회는 이번 발족식 직후 AI 전문가 및 업계를 포함한 실무분과를 운영하여 금융권의 AI 활용 활성화를 추진할 예정이다.

◆'금융권 AI 협의회' 왜 발족했나

"현재 전세계적으로 금융권의 생성형 AI 활용도는 높은 수준이나 국내 금융권의 활용은 매우 미흡하다"는 공감대에서 출발했다는 게 금융위의 설명이다.

모건스탠리(Morgan Stanley) 등 글로벌 금융회사들은 생성형 AI를 활용해 고객 자산관리 자문서비스에 나서고 있다. 하지만 국내의 경우, 일부 대형 금융회사(대형은행 등)만 경량화 AI를 내부망에 자체 구축해 실험적으로 활용하는 수준에 불과하다는 진단이다.

특히 생성형AI 활용과 관련해, 국내 금융권은 '금융권 망분리'로 인한 문제에 직접적으로 직면해있다. '금융 망분리'규제때문에 인터넷망을 통해 해외서버에서 제공 중인 AI서비스에서 내부망 자료를 활용하기 어렵기때문이다. GPT-4, 제미니(Gemini)등 다수 AI가 해외서버 및 인터넷 환경에서만 활용이 가능한 상황이다.

결국 금융회사들은 생성형 AI를 활용시 단시간에 만들 수 있는 PPT, 분석자료 등을 수작업으로 진행함으로써 업무 효율성이 크게 떨어지게 된다.

이 뿐만 아니다. AI가 제대로된 성능을 발휘하기위해서는 반도시 AI 학습이 선행돼야한다. 그러기 위해서는 양질의 데이터 확보가 필수적이다. 하지만 현재 개인정보 보호규제 등으로 내부정보 활용도 어려운 상황이다.

현재 전자금융법상 실명정보의 경우, 이용자가 동의한 범위 내에서만 AI 활용·개발 등에 사용 가능하다. 따라서 생성형 AI의 신뢰도를 높이기 위해서는 AI가 제시한 결과값 도출 배경을 설명해주고, 필요시 개선할 수 있는 기술이 필요하다는 게 금융위의 설명이다. GPT-4 등 생성형 AI의 경우, 남녀차별 등 선입견 등을 학습하는 편향(Bias), 틀린 대답을 하는 환각 현상(Hallucination) 등의 문제가 제기되고 있다.

또한 '설명가능한 AI'(XAI)의 문제에 대응하기 위해서도 '금융권 AI 협의회'를 구성해 AI 활용 활성화 방안을 논의할 필요가 있다는 것이다.

'금융권 AI 협의회'는 AI 활성화를 위한 이슈 전반을 검토하고, 지원·감독 정책 방향 등을 논의하는 역할을 하게된다. 협의회에는 금감원, 신정원, 보안원, 결제원, 금융연, 자본연, UNIST, 하나·신한은행, KB증권, 미래에셋자산운용, 삼성생명, 현대해상, 하나카드 등이 참여한다.

생성형 AI 활용 인프라 구축, AI 개발 관련 맞춤형 DB 구축 등 구체적인 당국 지원 필요사항 등 논의하고, 금융업권별 AI 추진 현황 및 이슈 등을 수시로 전체위원회에 보고한다.

◆'금융권 AI 협의회'에서 논의하는 내용은?

'금융권 AI협의회'를 통해 생성형AI 활용에 직접적인 걸림돌로 작용하고 있는 '망분리' 및 '해외서버 이용금지' 규제를 우회하기위한 효율적인 방안을 도출하는데 주력한다. 현행 전자금융감독규정에는 클라우드를 통해 개인신용정보·고유식별정보를 처리하는 경우, 그 서버는 국내에 설치돼야한다고 규정하고 있다.

아울러 '생성형 AI' 테스트베드의 구축에도 나선다. 올해 1월 금융보안원, 신정원, 결제원은 분석형 AI 관련 테스트베드를 구축했으나, 생성형 AI 테스트베드는 미흡한 상황이다. 따라서 향후 구축하게 될 생성형 AI 활용 인프라의 특성을 반영해 각 기관별 테스트베드 구축 방식 등을 논의할 필요가 있다는 것이다.

또한 생성형 AI의 활용시 일시적인 GPU(그래픽 메모리) 사용량 폭증을 고려해 금융사 개별 내부서버 보다는 공용 클라우드 환경에 구축할 필요성이 제기되고 있다는 설명이다.

이와함께 '손쉬운 이용을 위한 특성화 AI 플랫폼' 구축도 추진한다.

금융위에 따르면 현재 일반적으로 논의되는 GPT-4 등 생성형 AI 기초 모델은 일반 금융회사 직원이 업무에 직접 활용하기 불편한 측면이 있다. 이에 따라 대부분의 AI 제공사·전문업체(MS Azure 등)는 업무에 활용하기 쉬운 특화 AI 플랫폼을 제공하고 있다.

금융 망분리 규제하에서 금융회사 등이 손쉽게 전문분야 AI 플랫폼 수준으로 AI를 활용할 수 있는 방안을 검토할 필요가 있다는 것이다.

금융 당국은 또한 '특성화 AI' 개발 지원을 위한 DB 구축을 위해 우선적으로 확보가 가능한 보험사기방지 등 공공 데이터를 중심으로 금융회사가 보유한 데이터 활용 방안(가명처리 등) 논의할 계획이다.

AI 학습을 위한 합성데이터 등 충분한 데이터 확보와 실제 데이터의 특성과 통계적 특성을 반영하여 인공적으로 생성한 합성데이터 활용도도 높여나가겠다는 방침이다.

한편 '설명가능한 AI(XAI)' 기술에도 적극적인 대응에 나선다. 현재 AI가 산출한 결과에 대해 금융회사가 오류를 즉시 시정하거나, 고객에게 설명하기 어려워 AI 자체의 신뢰도가 낮은 실정이다.

금융회사가 AI 자체의 정확성을 지속적으로 개선하기 위해 AI 신뢰성 평가기준이 필요하나, 가이드라인 등이 부재한 상황이다. 또한 금소법 등 보호범위 내에서 AI 서비스를 받기 위해 AI의 판단 근거에 대한 설명 등이 필요하나 이 역시 미비한 수준이라는 진단이다.

이밖에 '생성형 AI 윤리지침'을 통한 올바른 AI 교육 지원을 위해 , AI의 학습 단계부터 윤리기준을 적용해 AI가 도출한 결과가 윤리적 기준에 부합하도록 하는 방안 논의해 나갈 계획이다. 앞서 지난 2021년 7월 발표한 '금융 AI 가이드라인'에는 생성형 AI(Chat-GPT) 관련 윤리지침까지는 반영하지 못한 실정이다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -