"급한 건 알겠는데..."...국내 기업 CEO들이 AI 투자 고민하는 이유는

[남도영 기자]

17일 여의도 국제금융센터에서 열린 'AI 인사이트 포럼'에서 김현정 한국IBM 컨설팅 대표가 'IBM CEO 연구' 조사 결과를 발표하고 있다. /사진=IBM 제공

국내 기업 최고경영자(CEO)들이 인공지능(AI)이 가져올 변화에 대해 공감하면서도, 선제 투자에는 보수적인 입장을 가진 것으로 나타났다. 아직까지 리스크가 큰 만큼, 실패를 용인하지 않는 기업문화가 작용한 것으로 풀이된다.

글로벌 CEO "리스크 있어도 더 빨리"...한국 CEO "느려도 정확하게"

17일 한국IBM은 여의도 국제금융센터에서 'AI 인사이트 포럼'을 열고 IBM 기업가치연구소가 실시한 글로벌 CEO 연구 결과를 발표했다. 이번 연구 결과에 따르면 향후 2년 안에 AI 투자 성장률은 두 배 이상 증가할 것으로 전망된다.

전 세계 CEO 2000명을 대상으로 실시한 이번 조사에선 글로벌 CEO들과 국내 CEO들 간의 온도차가 눈에 띄었다. 글로벌 CEO의 61%는 현재 AI 에이전트를 적극적으로 도입하고 있으며, 이를 조직 전반에 확산할 준비를 하고 있다고 답했다. 반면 설문에 참여한 국내 CEO들은 45%만이 이에 동의해 전 세계에서 가장 낮은 응답률을 보였다.

AI가 가져오는 변화가 크다고 느끼는 것은 국내 CEO도 마찬가지였다. 글로벌 CEO의 68%가 AI가 비즈니스의 핵심 요소까지 바꾸고 있다고 답했고, 국내 CEO들 역시 78%가 동의했다.

다만 글로벌 CEO의 64%는 경쟁에서 뒤처지지 않기 위해 리스크를 감수하더라도 더 빨리 AI에 투자하겠다는 의사를 밝힌 반면, 국내 CEO의 경우 52%만이 동의했다. 기술 도입에 있어 '빠르게 진행해 시행착오를 겪는 것'이 '느리고 정확하게 진행하는 것'보다 낫다고 답변한 비율은 28%에 불과해 글로벌 CEO의 응답률인 37%보다 훨씬 낮은 수치를 보였다.

김현정 한국IBM 컨설팅 대표는 "국내 기업들은 실패를 용인하지 않는 문화가 작용하고 있는 것으로 보인다"며 "성공과 실패 여부가 중요한 가운데 실패 가능성을 줄이기 위해 테스트 등을 거치며 신중히 접근하다 보니 상대적으로 속도가 떨어지고 있다"고 진단했다.

아직까지 낮은 ROI 달성률...데이터·인재확보 고민

기존 운영과 혁신 투자 간의 '균형추'를 잡는 일은 국내외를 가리지 않고 CEO들의 고민거리가 되고 있다. 이번 조사에서 글로벌 CEO의 59%, 국내 CEO의 54%는 예상치 못한 변화가 발생할 경우 기존 운영 자금과 혁신에 대한 투자의 균형을 유지하는 데 어려움을 겪고 있다고 응답했다.

이런 어려움은 AI 도입의 성과를 가시적으로 확인하기까지 시간이 필요하기 때문이다. 이번 조사에서 CEO의 65%는 투자 대비 효과(ROI)를 기반으로 AI 활용 사례를 적용하고 있으며, 68%는 혁신 ROI를 효과적으로 측정할 수 있는 명확한 지표를 보유하고 있다고 답했다. 하지만 지난 몇 년간 진행된 AI 프로젝트 중 예상했던 ROI를 달성한 비율은 25%(한국 24%)에 불과했고, 단 16%만이 기업 전체로 확장된 것으로 나타났다.

이 때문에 많은 기업에서 아직까지 AI 투자는 연구개발(R&D) 성격을 갖고 있다는게 김 대표의 설명이다. 김 대표는 "기술 발전 속도 빠르고 변화 폭 클수록 의사결정이 직관이나 두려움에 의존하는 경우가 많아진다"며 "실질적인 데이터에 기반한 ROI 중심의 의사결정이 중요하다"고 조언했다.

AI 도입의 가장 중요한 도전과제는 '데이터'로, 글로벌 CEO의 68%가 전사 차원의 데이터 통합 아키텍처가 부서 간 협업을 위해 필수적이라고 답했다. 한국 CEO의 경우 82%에 달해 전사 데이터 통합 환경에 대한 수요가 글로벌보다 더 높게 나타났다.

CEO의 72%는 조직이 보유한 고유 데이터가 생성형 AI의 가치를 실현하는 데 핵심적인 역할을 한다고 응답했다. 결국 데이터가 AI 경쟁력을 좌우할 것이란 인식이다. 다만 50%는 오히려 최근 투자 속도 때문에 조직 내 기술이 단절되고 단편적인 기술만 사용하고 있다고 답하며 데이터 환경 구축의 어려움을 토로했다.

인재 확보도 어려운 과제 중 하나로 꼽혔다. 56%의 CEO는 핵심 기술 인재 확보 및 유지에 어려움을 겪고 있다고 답했고, 66%는 아웃소싱의 한계를 인식, 소수의 정예 파트너와의 전략적 협력에 집중할 계획이라고 답변했다.

김 대표는 "AI 확산에서 가장 크고 어려운 문제가 인재 확보"라며 "제한된 인력 리소스를 유수의 기업들과 함께 쓸 수 있는 파트너십 기반의 방안들을 만들어내는 역량이 중요하다"고 말했다.

실무자들 "빠를수록 좋다" 조언...기술 발전 흐름 따라가야

이날 포럼에는 금융, 공공, 민간 등 다양한 분야의 AI 실무자들이 참석해 조직에서 AI 프로젝트를 진행하며 겪었던 어려움과 AI 도입 시 참고할 조언 등을 공유했다.

주세민 미래에셋증권 AI솔루션본부장은 "AI를 통해 금융정보를 보다 투명하게 투자자들과 직원들에게 제공할 수 있다고 믿고 있다"며 "할루시네이션 등의 리스크보다도 이런 것들이 고객들에게 주는 후생이 훨씬 크다고 생각한다"고 말했다.

주성환 서울AI재단 AI혁신사업본부장은 "행정 데이터를 어떻게 잘 활용할 수 있을지 집중하고 있다"며 "서울시가 가진 비전 중 하나인 약자와의 동행을 실현하기 위해 취약계층이 여러 일들을 편리하게 할 수 있도록 해주는 측면도 신경쓰고 있다"고 말했다.

코웨이 DX 센터의 김동현 전무는 "모든 구성원이 더 나은 구성원이 되는 방향을 도출하는 게 목표"라며 "각 개인이 AI라는 도구를 통해 업무 영역을 확장해 나갈 수 있다고 보며, 그런 기회를 전사적으로 확대하면 고객에게 더 나은 가치와 품질을 제공할 수 있을 것"이라고 말했다.

(왼쪽부터) 한국IBM 컨설팅 김현정 대표, 미래에셋증권 AI 솔루션본부 주세민 본부장(상무), 서울AI재단 AI 혁신사업본부 주성환 본부장, 코웨이 DX 센터 김동현 센터장(전무) /사진=IBM 제공

이들 역시 AI 도입의 어려움으로 인재 확보와 데이터 환경 구축을 꼽았다. 주세민 본부장은 "AI는 특정 인력이 있으면 할 수 있고, 없으면 못하는 일들이 있다"며 "한 사람의 생산성이 10배, 100배의 차이를 만드는데, 적절한 인력을 소싱하는 게 가장 큰 과제"라고 말했다.

주성환 본부장은 "보안 이슈 때문에 데이터를 과감하게 쓸 수 없는 여러 현실이 장벽으로 느껴지는 부분이 있다"며 "AI 필요성에 대한 대외적인 공감대에도 불구하고 인재 확보가 어렵고 내부 인재를 키우는데도 시간이 많이 걸려 조직 차원에서 보완할 방안을 고민 중"이라고 말했다.

다만 이 같은 어려움에도 불구하고 이날 참석자들은 과감한 선제 투자가 필요하다고 입을 모았다. 주세민 본부장은 "무조건 빨리가야 한다"며 "가전제품처럼 좋은 제품 기다리는 건 좋지 않는 전략이다. 하다보면 할 게 더 많아지고 허들이 높아진다. 빨리 시작하는 게 좋다"고 조언했다.

김 전무는 "AI로 테스트를 진행하거나 개념검증(PoC)을 하면 90%는 실패하지만 성공시 임팩트가 크기 때문에 1%에 기대를 걸고 진행한다"며 "지금 쓸 수 있는 기술들은 작년에 얘기한 기술들이다. 흐름을 못 따라가면 적용이 어려워지는 만큼, 꾸준히 따라가야 한다"고 말했다.

정부 차원에서 AI 생태계 조성을 서둘러야 한다는 조언도 나왔다. 김 전무는 "코웨이에서 AI를 통해 무언가 빠르게 할 수 있었던 이유는 결국 클라우드 등 서비스에 대한 접근성이 높고 비용에 개의치 않았다는 점"이라며 "규모가 있어야 품질이 따라오는 상황에 국내 생태계를 구축하려면 작은 업체를 많이 만들기 보다는 한두 업체라도 누구든 쓸 수 있는 서비스를 제공할 수 있는 기업이 나와야 할 것"이라고 말했다.

남도영 기자 hyun@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>