금감원, 금융권 AI 위험관리 기준 마련…프레임워크 도입

AI 도입·활용 전 과정 위험 관리…거버넌스·평가·통제 제시
자율 가이드라인으로 1분기 시행 예정

[이데일리 최정훈 기자] 금융감독원이 금융회사의 인공지능(AI) 활용에 따른 위험을 체계적으로 관리하기 위한 ‘금융분야 AI 위험관리 프레임워크(AI RMF)’를 도입한다. AI 시스템의 기획·개발부터 운영·활용에 이르는 전 과정에서 발생할 수 있는 위험을 금융회사가 스스로 관리하도록 유도하겠다는 취지다.

금융감독원은 13일 금융권의 AI 활용이 급속히 확대되는 가운데, 소비자 권익 침해와 금융안정 훼손 우려를 줄이기 위해 AI RMF를 마련했다고 밝혔다. AI RMF는 법적 강제력이 없는 자율 가이드라인으로, 금융회사 규모와 AI 활용 수준에 따라 선택적으로 적용할 수 있도록 설계됐다. 금융권 의견수렴을 거쳐 ‘금융분야 AI 가이드라인’과 함께 1분기 중 시행될 예정이다.

최근 금융권에서는 AI 기반 상담·심사 서비스와 내부 업무 자동화가 빠르게 확산되고 있다. 세계경제포럼(WEF)은 금융산업이 AI 도입 효과가 가장 큰 분야 중 하나로, 업무의 상당 부분이 자동화될 수 있다고 평가했다. 그러나 AI의 불투명성, 데이터 편향, 오류 가능성 등으로 인해 잘못된 의사결정이나 차별, 대규모 시스템 리스크로 이어질 수 있다는 우려도 커지고 있다.

금감원이 지난해 4월 국내 금융회사 118곳을 전수 점검한 결과, AI 거버넌스와 위험관리 체계는 전반적으로 미흡한 것으로 나타났다. AI 관련 의사결정기구를 갖춘 금융회사는 극소수에 그쳤고, 상당수 회사는 AI 윤리 원칙이나 위험관리 기준조차 마련하지 않은 상태였다.

AI RMF는 이런 문제를 보완하기 위해 △AI 거버넌스 △위험평가 △위험통제 등 세 가지 핵심 축으로 구성된다. 우선 금융회사는 AI 윤리위원회나 AI 위험관리위원회 등 의사결정기구와 전담 조직을 설치해 책임 소재를 명확히 해야 한다. 최고경영자(CEO)는 AI 도입 전략과 위험을 정기적으로 보고받고 관리 책임을 지도록 했다.

위험평가 단계에서는 ‘금융 AI 7대 원칙’을 토대로 AI 서비스별 위험 수준을 분류한다. 특히 대출 심사처럼 개인의 권리·의무에 중대한 영향을 미치는 ‘고영향 AI’는 고위험 서비스로 분류해 강화된 관리 대상에 포함한다. 위험통제 단계에서는 위험 수준에 따라 차등화된 통제를 적용하고, 초고위험 AI에 대해서는 출시 여부를 재검토하도록 했다.

금감원은 업권별 협회와 설명회·간담회를 통해 AI RMF를 금융권에 공유하고, 모범 사례 확산과 실태 점검을 통해 제도가 내부통제 체계에 안착하도록 지원할 계획이다. 금감원 관계자는 “금융권이 혁신과 책임의 균형 속에서 AI를 활용할 수 있도록 위험관리의 기준틀을 제시한 것”이라며 “AI 대전환을 금융이 선도하되, 소비자 보호와 금융안정은 흔들리지 않도록 하겠다”고 전했다.