[IT세상] 현실적인 AI 활용법 고민할 때

[김현정 한국IBM 컨설팅 대표] 최근 한 유수의 외국 언론에서 ‘인공지능(AI) 혁신이 이미 열기를 잃고 있다’는 기사를 게재해 관심을 끌었다. AI 혁신의 속도가 느려지고 있으며, 유용성은 제한적이고, AI 운영에 드는 비용이 여전히 너무 높다는 것이다. 그러나, 필자는 이것이 너무 성급한 판단이라고 생각한다. AI 기술 혁신은 이제 막 시작되었을 뿐이다.

컴퓨터의 발전상만 돌이켜보아도 초기 컴퓨터는 거대한 크기에도 사용할 수 있는 용도는 매우 한정적이었고, 그나마도 운영을 하려면 엄청난 비용이 들었다. 그러나, 지금은 손안에 들어오는 작은 휴대폰 형태로 적은 비용에 수 많은 작업을 할 수 있다. AI가 이룰 수 있는 것에 대해 실망하기에는 너무 이르다. 특히 기업들은 AI를 활용해 어떤 부분을 혁신하고, 어떤 가치를 창출할 수 있을지 모색하는 단계에 있을 뿐이다. AI가 비즈니스에 가져올 수 있는 혁신은 무궁무진하다.

지금은 AI에 대해 너무 크게 기대하거나 실망하기 보다는 현실적으로 가능한 것과 효과적인 것을 찾아내는 것이 필요하다. 여기에서 주목해야 하는 한 가지는 기업용 AI는 소비자용 AI와는 확실히 다르다는 것이다.

비즈니스에 사용되는 AI 모델은 정확성과 신뢰성이 담보돼야 하기 때문에 학습 데이터의 신뢰도, 모델의 투명성이 높아야 하고, 편견이나 오류가 없어야 한다. 기업마다 AI를 도입하려는 환경이 다르고, 목적도 다르기 때문에 각 기업 상황에 잘 맞는 다양한 AI 모델을 활용할 수 있도록 많은 선택권을 가질 수 있는 것도 중요하다. 기업의 데이터가 AI 제공 기업으로 유출되지 않도록 보안도 고려되어야 한다. 비용에 민감한 기업 비즈니스 특성상 광범위한 분야에서 뛰어난 성능을 내기 위해 엄청난 수의 파라미터를 활용하고, 많은 그래픽처리장치(GPU)와 컴퓨팅 자원을 사용해야 하는 대규모 AI 모델보다는 파라미터 수가 적어 GPU 사용이나 운영비용이 적게 들지만 특정 산업이나 분야에서 높은 성능을 내는 AI 모델이 더 적절할 수 있다. 최근 소형거대언어모델(sLLM)이라는 개념이 각광받는 이유다.

앞서 이야기한 바와 같이 기업 워크로드 모든 분야를 커버하는 AI는 비용이나 성능 면에서 효율적이지 않기 때문에 특정 부문에서 뛰어난 AI에 집중하는 기업들이 늘고 있다. IBM은 특히 디지털 노동력, 고객 서비스, 앱 현대화 부분에서 AI를 활용하면 더 확실한 투자수익률(ROI)을 거둘 수 있다고 보고 있다.

일례로 인사관리 분야에 AI를 도입한 IBM 컨설팅은 연간 6만 시간에 이르는 관리자의 시간을 절약하고 프로세스 시간도 85% 절감했다. 무엇보다 많은 직원들이 일상적인 서류 작업 대신 사고력과 창의력을 요구하는 중요한 인재 관련 서비스를 제공하는 데 더 많은 시간을 할애할 수 있게 되었다. 세계 최대의 레저용 차량(RV) 공급 기업인 ‘캠핑월드’는 고객 서비스 향상을 위해 콜센터에서 ‘알비’라는 AI 상담원을 활용했다. 알비의 도움으로 실제 상담원은 문의 1만3999건 중 6000건만 처리하면 되었고, 여러 건의 채팅을 동시에 처리할 수 있어 전반적인 효율성이 33% 향상되었다. 고객 참여도가 40% 증가했으며 대기 시간은 33초로 단축되었다.

전세계 어느 기업보다 먼저 AI에 대한 연구를 시작한 IBM은 대중의 과도한 기대가 혁신에 어떤 부정적인 영향을 미치는지 잘 알고 있다. 그렇기 때문에 생성형 AI가 모든 인간의 자리를 대체할 것처럼 기대하거나 걱정하는 것을 경계하고, AI의 한계를 인정하면서 ‘기업용 AI’로서 가치를 만들어낼 수 있는 부분에 집중하고 있다. AI를 도입하고자 하는 모든 기업들에게 필요한 접근법이 아닐까 한다.