‘클라우드 퍼스트’ 전략에 대한 과대광고가 넘치지만, 엔터프라이즈 데이터센터는 여전히 건재하다. 실제로 전체 엔터프라이즈 워크로드의 절반가량은 퍼블릭 클라우드가 아닌 온프레미스 데이터센터나 프라이빗 클라우드에서 실행되고 있다. 포레스터에 따르면, 대기업의 79%가 내부 프라이빗 클라우드를 구축한 상태다. 즉, 프라이빗 클라우드는 여전히 엔터프라이즈 IT에서 핵심적인 위치를 차지하고 있다. 퍼블릭 클라우드 혁명이 시작된 지 수년이 지난 지금, VM웨어의 마이클 코테는 이 상태를 온프레미스와 퍼블릭 클라우드가 절반씩 균형을 이루는 ‘50:50 균형’이라고 표현했다.
프라이빗 클라우드를 고수하는 이유는 무엇일까? 대부분은 기술 저항이 아니라 현실적인 비즈니스 이유에서 비롯된다. 많은 기업이 자사 데이터센터와 프라이빗 클라우드 플랫폼(대개는 가상화와 컨테이너 기반)을 구축하는 데 상당한 자본을 투자해왔으며, 많은 워크로드가 그 위에서 무리 없이 운영되고 있다.
하지만 이들 워크로드는 기업을 혁신하거나 시장의 게임 체인저로 만들 요소는 아니다. 퍼블릭 클라우드는 오래전부터 프라이빗 클라우드보다 빠르게 성장하고 있으며, 그만한 이유가 있다. 그 이유를 살펴보자.
변화는 어렵다
기업 IT 책임자가 프라이빗 클라우드를 고수하는 이유는 다음 4가지로 정리할 수 있다.
- - 데이터 중력과 지역성. 대규모 데이터를 퍼블릭 클라우드로 이전하거나 복제하는 것은 비효율적이거나 비용이 많이 든다. 해당 워크로드를 온프레미스에 유지하면 데이터 전송 문제와 관련 비용을 피할 수 있다.
- - 생태계 통합. 많은 온프레미스 애플리케이션이 ERP 시스템, 레거시 서비스, 저지연 네트워크와 밀접하게 통합돼 있다. 상호 의존적인 시스템을 프라이빗 환경에 함께 유지하면 성능과 안정성을 높일 수 있다.
- - 거버넌스와 통제. 프라이빗 클라우드는 보안과 규정 준수 측면에서 심리적 안정감을 준다. (물론 사람마다 차이가 있지만, 어쨌든 그렇다.) 데이터 거버넌스나 규제 요건이 엄격한 기업은 민감한 워크로드를 자사 인프라에 두는 것을 선호한다.
- - 익숙함과 예측 가능한 비용. 기업은 기존 인프라 관리에 대한 노하우가 있다. 일정한 워크로드에는 하드웨어를 직접 보유하는 방식이 비용 예측에 유리하다. 개발자 친화적인 플랫폼을 추가하면, 퍼블릭 클라우드의 요금 폭등 없이도 유연성을 확보할 수 있다.
요약하자면, 프라이빗 클라우드가 꾸준히 사랑받는 이유는 익숙하고 안정적인 선택지이기 때문이다. 서버 인프라를 직접 제어하고 최적화하며, 예측 가능한 수요에 맞춰 ‘설정 후 방치’할 수 있다. 퍼블릭 클라우드 사용이 급증했음에도 불구하고, 기업은 안정적인 시스템은 프라이빗에 두고, 나머지는 퍼블릭을 활용하는 방식으로 균형을 잡아왔다. 분석가들이 하이브리드 전략이 주류가 될 것이라 보는 것도 이 때문이다. IDC는 호스팅 기반 프라이빗 인프라를 포함한 프라이빗 클라우드 지출이 2027년까지 660억 달러에 이를 것으로 전망했다. 퍼블릭 클라우드에 2024년에만 8,150억 달러가 투입된 것보다는 적지만, 여전히 거대한 규모다.
‘뉴 노멀’이 된 인프라의 탄력성
프라이빗 클라우드가 안정적이고 익숙한 기업 IT의 현재라면, 퍼블릭 클라우드는 점점 더 실험적이고 미래 지향적인 영역이 되고 있다. 코테가 언급한 균형은 실제이지만, 그 속에는 중요한 흐름이 숨어 있다. 산업을 정의하는 대부분의 혁신은 퍼블릭 클라우드 인프라에서 일어나고 있다. 이는 새로운 현상이 아니다. AWS의 전 데이터 과학 책임자 맷 우드는 과거 필자에게 다음과 같이 설명했다.
“비싼 인프라를 구매하는 기업은 문제의 범위와 도메인이 빠르게 바뀐다는 사실을 깨닫게 된다. 원래 질문에 답할 수 있을 때쯤이면 사업은 이미 다른 방향으로 가 있다. 변화하는 빅데이터 요건에 신속히 대응할 수 있는 유연한 환경이 필요하다.”
지난 2년간 생성형 AI가 단순한 기술 시연에서 기업 핵심 의제로 부상하면서 이 사실은 명확히 드러났다. 기업은 생성형 AI 실험을 확대하거나 축소할 수 있는 민첩성을 필요로 했고, 급하게 AI 역량을 구축하거나 활용하려는 기업은 확장 가능한 인프라로 급히 이동했고, 대형 클라우드 서비스 업체에서 이런 인프라를 풍부하게 찾을 수 있었다.
숫자가 말해준다. 클라우드 도입은 계속 증가하고 있으며, 현재 엔터프라이즈 워크로드의 절반 이상이 퍼블릭 클라우드에서 실행되고 있다. 플렉세라의 최신 클라우드 현황 보고서는 이를 ‘전환점(tipping point)’이라고 표현했다. 워크로드를 다시 온프레미스로 이전하는 ‘클라우드 송환’에 대한 논의는 있지만, 실제로 온프레미스로 되돌아간 비율은 21%에 불과하며, 새로운 클라우드 마이그레이션과 성장세에 비하면 미미하다. 실제로 2023년은 클라우드 대탈출의 해가 아니라, 그 반대였다. 인포월드의 클라우드 칼럼니스트 데이비드 린시컴은 “AI나 분석처럼 고급 IT 서비스를 다룰 때는 퍼블릭 클라우드가 대체로 더 경제적이고 실용적”이라고 분석한 바 있다. 예측대로, 비용 절감을 우선시한 경영진이 일반적인 클라우드 지출을 줄이던 지난해에도 한 분야는 계속 성장했다. 바로 클라우드 기반 AI 워크로드였다.
아마존 웹서비스, 마이크로소프트 애저, 구글 클라우드 등 이른바 ‘하이퍼스케일러’ 3사는 모두 AI 수요 덕분에 클라우드 매출 성장 속도가 빨라졌다고 보고했다. 2024년 말까지 전체 조직의 79%가 퍼블릭 클라우드 서비스 업체의 AI/ML 서비스를 사용하거나 실험 중인 것으로 나타났다. 기업의 72%는 최소한 일부 생성형 AI를 사용 중이며, 대개 클라우드 API나 플랫폼을 통해 이용한다. 이런 AI 실험은 대부분 프라이빗 데이터센터가 아닌 퍼블릭 클라우드 데이터센터와 네트워크 엣지에서 진행되고 있다.
AI는 유연성이 극대화되는 영역
AI는 클라우드의 유연성에 대한 요구가 특히 높은 분야다. 새로운 머신러닝 모델을 학습시키거나 생성형 AI 애플리케이션을 확장하는 것은 정적인 일이 아니다. 이는 불규칙하고 갑작스러우며, 자원을 많이 소모하는 작업이다. 어떤 주에는 수십 개의 엔비디아 GPU가 필요하지만, 그 다음 주에는 GPU가 전혀 필요없다. 퍼블릭 클라우드는 이런 수요 변화에 맞춰 대규모 컴퓨팅 자원을 임시로 임대하고, 작업이 끝나면 바로 반환할 수 있어 탁월한 대응력을 보인다. 이런 유연성은 단순한 부가 기능이 아니라, 오늘날 AI 개발에 필수적인 요소다. 수년간 안정적인 서버에서 작동할 수 있는 기존 엔터프라이즈 앱과 달리, AI 워크로드는 본질적으로 클라우드 네이티브다.
하이퍼스케일러가 AI 수요를 따라잡기 위해 대규모 투자를 단행하는 것도 당연한 흐름이다. 클라우드보다 네트워크로 더 잘 알려진 클라우드플레어도 예외가 아니어서 전 세계 100개 도시 이상에 엔비디아 GPU를 배치해, 개발자가 사용자 위치 근처에서 AI 추론을 실행할 수 있도록 지원하고 있다.
이런 서비스는 한 가지 분명한 사실을 보여준다. 엔터프라이즈 컴퓨팅의 최전선은 이제 프라이빗 데이터센터를 벗어났다. 이제 고도로 탄력적이고 지리적으로 분산된, 클라우드 또는 클라우드 같은 네트워크에 있다. 이 환경에서는 수요에 따라 용량을 수십 배로 확장할 수 있고, 서버리스 기능부터 AI API에 이르기까지 새로운 서비스가 매주 출시되며, 비용도 규모의 경제 덕분에 낮다.
프라이빗 클라우드의 미래
이 모든 이야기가 프라이빗 클라우드가 쓸모없다는 뜻은 아니다. 오히려 그 반대다. 앞서 언급한 이유 때문에 대기업은 앞으로도 상당한 온프레미스 인프라를 유지할 것이다. 2025년의 엔터프라이즈 IT는 분명히 하이브리드이며, 앞으로도 그럴 가능성이 크다. 하지만 혁신의 중심이 이동했다는 점은 부정할 수 없다. 새로운 기회. 예를 들어 획기적인 AI 모델을 배포하거나 수백만 명이 이용하는 앱을 단숨에 확장해야 할 때가 되면, 기업은 온프레미스 클러스터를 새로 구축하지 않는다. 대신 AWS, 애저, 구글 클라우드, 클라우드플레어 같은 엣지 네트워크의 사실상 무제한 자원을 활용한다. 이들은 하드웨어를 구매하지 않고도 실험이 가능하며, 성공 여부가 서버 보유 대수에 의해 제한되지 않기 때문에 퍼블릭 클라우드를 선택한다.
프라이빗 클라우드는 안정적이고 예측 가능한 업무를 수행하는 데 강점을 보인다. 반면 퍼블릭 클라우드는 예측 불가능한 혁신을 구현하는 데 특화돼 있다. 클라우드와 온프레미스가 균형을 이루는 상황에서, 이런 역할 분담은 더욱 명확해지고 있다. 기업 운영을 지탱하는 일상적인 워크로드는 익숙한 프라이빗 클라우드 환경에서 무리 없이 작동할 수 있다. 그러나 시장을 바꿀 프로젝트, 즉 기업의 미래를 결정할 가능성이 있는 업무는 즉시 전 세계 어디든 확장 가능한 인프라로 자연스럽게 옮겨가고 있다.
클라우드 시대의 혁신은 유연성에서 나온다. 그리고 대부분의 온프레미스 환경은 그런 유연성을 갖추고 있지 않다.
dl-itworldkorea@foundryco.com
Matt Asay editor@itworld.co.kr
저작권자 Foundry & ITWorld, 무단 전재 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.