구글, 컴퓨팅 용량 부족으로 '최고경영진 비상 위원회'까지 가동

[박찬 기자]

(사진=셔터스톡)

구글이 AI 수요 폭발로 인한 컴퓨팅 자원 부족 문제를 해결하기 위해 최고경영진으로 구성된 새로운 의사결정 협의체를 가동한 것으로 알려졌다. AI 모델 개발과 서비스 수요 확대에서도 기존 주력 사업인 서비스와 광고를 유지하기 위해 어려운 결정을 내려야 하기 때문이다.

디 인포메이션은 18일(현지시간) 정통한 관계자들을 인용, 구글이 올해 초 컴퓨팅 용량 배분을 전담하는 소규모 고위 임원 위원회를 출범시켰다고 보도했다.

이는 사업부 간 이해관계가 엇갈리는 가운데 의사결정이 지연되는 문제를 해소하고, 제한된 컴퓨팅 자원을 전략적으로 배분하려는 조치다. 이 위원회는 구글 클라우드, 검색·광고 등 핵심 제품군, 그리고 AI 연구 조직인 구글 딥마인드 사이에서 컴퓨팅 자원을 어떻게 나눌지 결정하는 역할을 맡는다.

협의체에는 토마스 쿠리안 구글 클라우드 CEO, 데미스 허사비스 딥마인드 CEO, 딥마인드 CTO이자 구글 최고 AI 아키텍트인 코레이 카부쿠오글루, 검색과 광고를 총괄하는 닉 폭스, 연구·실험 조직을 담당하는 제임스 마니카, 그리고 아나트 애슈케나지 CFO 등 구글의 핵심 임원들이 빠짐없이 포진해 있다.

최종 결정이 어려우면 순다르 피차이 CEO와 구글 이사회에 안건이 상정되기도 한다.

이 협의체는 클라우드 부문의 매출 전망, 검색·광고 등 기존 제품의 성장성, AI 연구 경쟁력 유지 필요성 등을 종합적으로 고려하지만, 컴퓨팅 수요가 공급을 크게 초과하는 상황에서 '어디에 우선 투자할 것인가'를 두고 고통스러운 선택을 해야 하는 경우가 많다는 설명이다.

최첨단 AI 모델 개발에는 막대한 컴퓨팅 파워가 필요하고, 동시에 구글 클라우드는 회사의 주요 성장 동력으로서 더 많은 용량을 요구한다. 여기에 검색·지메일·크롬 등 월간 사용자 20억명이 넘는 핵심 서비스 인프라와 광고 사업도 안정적으로 운영돼야 한다.

구글은 수요를 따라잡기 위해 대규모 설비 투자를 확대하고 있다. 피차이 CEO는 최근 실적 발표에서 올해 구글의 자본 지출이 910억~930억달러(약 134조~137조원)에 이를 것이라고 밝혔다. 이는 2024년 대비 거의 두배 수준이다.

그러나 데이터센터 건설과 반도체 생산에는 긴 시간이 걸리기 때문에, 현재의 컴퓨팅 용량은 수년 전 투자 결정의 결과라는 한계가 있다. 실제로 2023년 구글의 자본 지출은 320억달러(약 47조원)에 그쳤다.

애슈케나지 CFO는 "서버 배치와 데이터센터 건설 속도를 높이고 있지만, 4분기와 2026년까지도 수요 대비 공급이 빠듯한 환경이 이어질 것"이라고 밝혔다. 이는 AI 확산 이후 주요 클라우드 기업들이 공통으로 겪는 문제이기도 하다.

이번에 출범한 소규모 협의체는 기존의 대규모 '머신러닝 전략 및 할당(MLSA)' 그룹을 대체하는 것은 아니지만, 더 신속하고 명확한 결정을 내리기 위한 핵심 기구로 자리 잡았다는 분석이다. 구성원 면면은 현재 구글 내에서 AI, 클라우드, 그리고 광고 수익을 책임지는 검색 조직이 얼마나 중요한 위상을 차지하고 있는지를 보여준다는 평도 나온다.

구글은 2025년 기준 전체 컴퓨팅 용량의 약 절반을 클라우드 사업에 배정할 계획이다. 다만 컴퓨팅 수요는 제품 출시와 사용자 반응, 경쟁사의 기술 진전, 대형 클라우드 고객 유치 여부 등에 따라 수시로 변동될 수 있어 배분 전략도 끊임없이 조정돼야 한다. 공급망 차질 등으로 칩 활용이 지연될 가능성도 잠재적 위험 요인으로 꼽힌다.

긍정적인 요소도 있다. 구글이 자체 개발한 TPU는 성능이 지속적으로 개선되고 있으며, 대형언어모델(LLM) 역시 효율화가 진행되고 있다. 이에 따라 동일한 칩 수로 더 높은 AI 성능을 제공할 수 있다.

현장 직원들의 체감은 또 다르다. 클라우드 부문에서는 수익성을 최우선 기준으로 칩 배분이 이뤄지지만, 딥마인드에서는 최고 기술책임자와 부사장급이 연구 프로젝트 단위로 연산 자원을 할당한다.

일부 핵심 연구자들은 여러 프로젝트의 컴퓨팅 자원을 동시에 활용하거나, 다른 팀과 '암묵적 교환'을 통해 컴퓨팅 파워를 빌리는 방식으로 부족분을 메우는 것으로 전해졌다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>