“과대광고에 묻히지 않도록” AI 도입의 진짜 비즈니스 사례 찾기

엔터프라이즈 IT 팀이 관심을 갖는 AI 배포는 아마도 AI 기반 고객 지원 챗봇, 네트워크 운영 자동화를 위한 AI 사용, 비즈니스 분석을 위한 자체 호스팅 AI 모델 등 실질적이고 측정 가능한 이득을 가져다주는 프로젝트일 것이다.

AI가 얼마나 환각에 불과한지 생각해 본 적이 있는가? 우리가 듣거나 읽은 내용 중 얼마나 많은 것이 진짜일까? AI의 성공은 대부분 과장된 것이며, 모든 과대 광고가 기술에 도움이 되기보다는 오히려 해가 될 수도 있지 않을까? 기업은 기술적인 측면이 아니라 비즈니스 사례를 만드는 측면에서 AI의 근본을 파악해야 한다. 그 방법에 따라 AI가 진짜인지 허상인지 판가름 날 것이다.

ⓒ Getty Images Bank

AI가 어떻게 업무를 혁신하는지, 어떻게 수만 시간의 노동력을 절약하는지, 전문가 모두가 AI를 효과적으로 사용하기 위해 어떻게 학습해야 할지에 대한 논의가 분분하다. 당분간은 일자리를 구할 수 있을지 모르지만, 결국에는 AI가 일자리를 없애고 모두 실직할 수도 있다고 말한다. 주변의 많은 전문가는 AI의 피해에 대한 극단적인 주장을 일축하지만, AI의 이점도 극단적으로 과장된 것이 있지 않을까?

“AI는 대부분 과장됐다. 그리고 그 때문에 여러 가지 노력이 방향을 잘못 잡아 올바른 도입을 방해한다는 점에서 AI에 해를 끼치고 있다. 하지만 AI는 업무에 혁명을 일으키고 있으며, 많은 시간을 절약해주고 있다. AI를 활용하는 방법을 배워야 하는 만큼, 두려움을 배워야 할 수도 있다. 하지만 인공지능이 대다수의 일자리를 빼앗지는 않을 것이다. 그리고 실제로 현재 가장 흔한 AI 사용례는 비즈니스 사례로 발전하지 못했다.” 이 여러 주장 중 말이 되는 것은 어떤 것인가?

과대 광고가 반드시 나쁜 것만은 아니다. 화제와 관심을 불러일으키고, 새로운 기술을 시도해 볼 수 있으며, 영업사원이 계약을 하는 데 도움이 되고, 회사가 뉴스에 계속 등장한다. 애플의 AI 발표는 많은 관심을 받았다. 많은 사람들이 애플의 뉴스가 평범하고 심지어 지루하다고까지 말했지만, 이미 자리 잡은 AI를 발표하는 것 외에 애플이 할 수 있는 일은 없었을 것 같다.

때로는 남들이 다 하는 말을 거대한 광고판으로 세워야 할 때도 있는데, 이것이 바로 마케팅이다. 사람들은 화려한 AI 기사를 계속 클릭한다. 월스트리트는 AI를 좋아하며, AI 업체와 협력 관계를 맺거나 경쟁사와 비슷한 AI 도구를 출시하는 것만으로도 AI 관련 발표를 하는 기업에 보상이 된다. 이러한 활동의 대부분은 생성형 AI와 관련이 있으며, 대부분은 모두가 공감하는 개인 생산성 도구 및 기능과 관련되어 있다. 이렇게 많은 AI가 떠돌다 보니 사람들이 AI가 세상을 장악하고 있다고 생각하는 것은 당연하다.

하지만 때로는 우리가 AI의 가치와 발전에 대한 인사이트를 올바른 곳에서 찾고 있는지 궁금해지기도 한다. 최근 AI가 몇 달 만에 수십 년의 시간을 절약했다는 기사를 읽은 적이 있다. 하지만 이것이 비즈니스 사례가 될 수 있을까?

사실 아직은 알 수 없다. 작업자 1인당 혜택은 무엇이었으며, 그 시간을 절약하는 데 작업자 1인당 비용은 얼마나 들었을까? 시간 절약이 회사의 비용 절감, 기존 직원의 감원 또는 신규 채용 필요성 절감으로 이어졌는가? 평균 근로자가 시간당 20달러를 벌고 AI 도구로 일주일에 1시간을 절약한다면 회사는 얼마나 이익을 볼까?

직원을 일주일에 1시간 더 일하게 하거나 그 시간으로 다른 사람을 고용할 필요가 없어지지 않는 한, 아무것도 아니다. 평범한 사용자는 이렇게까지 깊이 생각할 필요가 없겠지만, CFO에게는 중요한 문제다.

누구나 자신의 노동력을 절약하고 반복적이고 지루한 업무에서 벗어나고 싶어하기 때문에 이런 종류의 AI 애플리케이션에 대한 관심이 높다. 문제는 이런 종류의 작업자 지원이 수익을 창출하지 못한다는 것이다.

회사에서 생성형 AI의 활용을 감사한 CIO들의 이야기를 들어보면, 문서, 이메일 등을 지원하는 생성형 AI 도구가 실제로 비용을 절감한 경우는 거의 없었다고 한다. 하지만 이들은 회사에서 시도하고 있는 도구는 무료이거나 매우 저렴했고, 시간을 조금 절약하거나 결과를 약간 개선할 수 있다고 말했다. 한 CFO는 일반적으로 떠도는 대부분의 AI 이야기는 마치 사탕과 같다고 비유했다. 아니면 또 다른 AI 환각일까?

하지만 비용을 절감하는 좋은 AI 프로젝트가 없는 것은 아니다. CIO들은 이러한 프로젝트는 CIO가 참여해 전통적인 CFO 평가를 거치는 경우가 많다고 말한다. 예를 들어, 고객 지원 챗봇으로 AI를 시도한 거의 모든 기업이 고객 서비스를 개선하고 비용을 절감했다고 말하며, CIO는 해당 미션에서 AI의 비즈니스 사례를 만드는 데 어려움이 없었다고 말한다. 네트워크 관리와 관련된 애플리케이션에서 80%가 조금 넘는 CIO가 프로젝트가 ROI 목표를 달성했다고 답했으며, 비즈니스 분석을 위해 AI 모델을 자체 호스팅한 기업의 4분의 3은 프로젝트가 비즈니스 목표를 달성했다고 답했다. 그런데 왜 이런 사례를 현실에서는 볼 수 없을까?

CIO는 어떤 기술이든 도입 초기에는 그 기술의 잠재력이 가장 많은 관심을 받는 것이 문제라고 말한다. 생성형 AI는 쉽게 사용할 수 있기 때문에 많은 이가 관심을 보인다. 반면, 자체 호스팅 AI의 특정 과제는 소수의 사용자만 관심을 가지며, 그 수가 너무 적어 많은 관심을 끌지 못한다. 또한 실제로 CIO가 주도하는 셀프 호스팅 프로젝트에 참여하는 기업의 수가 적다는 것은 AI 도입에 가장 중요한 질문에 답하기 위해 직면해야 할 모든 실제 문제를 드러내는 데 시간이 더 오래 걸린다는 것을 의미한다.

다시 CIO로 돌아가서, 3/4 이상이 AI 프로젝트를 시작과 완료에 필요한 직원 기술이 부재한다고 답했다. 일부는 그러한 프로젝트를 위해 직원을 채용했지만 비즈니스 사례를 만들지 못하거나 규정 준수 감사를 통과하지 못했거나 둘 다 실패했다고 인정했다. 개인 생산성 애플리케이션에 생성형 AI를 도입하는 방법이 실제 비용을 절감할 수 있는 프로젝트에 인력을 배치하는 것과는 동떨어진 것이 분명하다. 한 CIO는 규정 준수 절차를 통과하는 방식으로 비즈니스 분석 애플리케이션을 호스팅하는 교육 과정마다 생성형 AI 프롬프트 작성 교육 세션이 20개씩 제공된다고 말했다.

가장 큰 문제는 규정 준수 통과가 아니라 재무적 통과일 것이다. AI가 매년 수십만 개의 GPU를 소비하고 있고, GPU 구동과 냉각에 드는 전력을 마련하기 위해 AI 데이터센터 운영자가 미친 듯이 노력해야 한다면, AI 구축에는 막대한 비용이 드는 것이다.

사용자는 자신이 사용하는 AI 도구의 대부분이 무료라고 생각한다. AI 제공업체가 막대한 비용을 들여서 무언가를 공짜로 제공한다는 것인가? 흥미로운 비즈니스 모델이며, 개인적으로 더 널리 받아들여졌으면 하는 모델이다. 하지만 현실적으로 생각해 보자. 업체는 지금 당장은 AI라는 사탕에 기꺼이 돈을 지불할 수 있겠지만, 언젠가는 공급업체와 사용자 CFO의 마음뿐만 아니라 지갑에도 AI가 자리 잡아야 한다. 이런 목표를 달성한 AI 프로젝트가 있기는 해도 대부분의 CIO와 CFO의 시야에는 없고, 그래서 진정한 AI 비즈니스 사례를 만들 수 있는 애플리케이션을 개발하기가 더 어려워지고 있다.

그렇다면 AI의 현실은 과대광고에 묻혀 있는 걸까? AI가 현실보다는 환상에 가까워 보이지만, 여기에는 전제 조건이 있다. 수백만 명의 근로자가 AI를 사용하고 있으며, 실제 비즈니스 사례를 만들고 있지는 않지만 이들이 현재 AI로 하고 있는 활동은 그만큼 많다.

대중 시장의 AI 부문에서 AI에 드는 그 많은 비용을 지불하고 수익을 창출할 만큼 실질적 가치를 창출하는 무언가를 발견할 수 있을까? 수백만 명이 AI가 필요하다고 요구하게 되면 결국 기업은 오늘날 CIO와 CFO가 비웃는 애플리케이션에 대한 비용을 지불할 수밖에 없을까? 만약 그런 일이 일어난다면 오늘날의 AI는 결국 환상이 아니라는 것이 증명되겠지만 거기에 돈을 걸고 내기를 하고 싶지는 않다.
editor@itworld.co.kr

Tom Nolle editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지