엔비디아, AI 스타트업에 1억5000만 달러 투자… 추론 '초집중'

[양정민 기자] 엔비디아가 인공지능(AI) 추론 최적화 플랫폼을 개발하는 미국 스타트업 베이스텐(Baseten)에 1억5000만달러(약 2200억원)를 투자한다. 이는 베이스텐이 최근 조달한 투자액 3억달러의 절반에 해당하는 규모다.

월스트리트저널은 20일(현지 시각) 이 내용을 보도하며 "엔비디아가 AI의 추론을 더 효율적으로 만들어주는 기술에 대해 공격적으로 투자를 확대하고 있다"고 전했다.

AI 업계가 대형 모델 학습에서 추론으로 중심을 옮겨가는 추세가 뚜렷해지고 있다. 똑똑한 AI의 뇌를 만드는 단계가 학습이라면, 추론은 이미 만들어진 뇌를 효과적으로 사용하게 만드는 단계를 뜻한다. 추론에서는 더 적은 자원을 쓰면서 더 빨리 결과를 도출해 전력 소모와 사용료를 줄이는 게 핵심이다.

천문학적 투자 자금이 필요한 대형 AI 모델의 학습 경쟁은 빅테크가 주도했지만, 추론 영역은 다양한 스타트업이 시장을 만들어 갈 수 있는 배경이 되고 있다. 엔비디아는 AI 학습용 GPU(그래픽 처리 장치) 시장을 장악하고 있는데, 향후 각광받을 AI 추론 시장도 선점하기 위해 공격적으로 투자에 나선 것이다.

앞서 지난달 엔비디아는 더 효율적인 추론을 할 수 있는 언어처리장치(LPU)를 개발하는 그록(Groq)에 200억달러(약 29조원)를 투자하기로 했다.

당시 그록은 자사 블로그를 통해 "그록의 추론 기술에 대해 엔비디아와 비독점적 라이선스 계약을 체결했다"며 "이 계약은 고성능·저비용 추론 기술에 대한 접근성 확대라는 공동의 목표를 반영한다"고 밝혔었다.

당시 계약에 따라 조너선 로스 그록 창업자 겸 최고경영자(CEO)와 서니 마드라 사장 등 핵심 인력이 엔비디아에 합류했다.

엔비디아의 딜은 단순한 기술 확보를 넘어 최근 급부상한 '반(反) 엔비디아 전선'을 무력화하기 위한 전략적 조치로 해석된다.

최근 구글은 7세대 텐서프로세싱유닛(TPU) 아이언우드를, AWS는 트레이니엄3를 잇달아 공개하며 엔비디아 GPU 대비 높은 전력 효율성을 과시했다. 학습용 시장을 장악한 엔비디아지만 추론용 시장에서는 이들 빅테크의 자체 칩이 강력한 잠재적 경쟁자로 부상한 상황이었다.

업계에서는 엔비디아가 GPU의 잠재적 경쟁 제품이 될 수 있는 그로크의 LPU와 베이스텐의 소프트웨어적 최적화를 내재화하려 한다고 분석하고 있다. GPU와 추론 전용 칩, 그리고 추론 효율화 소프트웨어까지 묶은 완전한 AI 시스템 공급자로 거듭나려는 전략이라는 것이다.

AI 추론에 집중하는 스타트업들의 가치는 최근 크게 높아지고 있다. 대형언어모델(LLM)의 추론과 서비스용 클라우드에 초점을 맞춘 세레브라스 시스템스는 현재 기업 가치가 220억달러(약 32조원)에 달하는 것으로 추정된다. 개발자들에게 AI 추론 인프라를 제공하는 파이어웍스AI는 지난해 10월 기업 가치 40억달러를 평가받으며 2억5000만달러를 조달하는 데 성공했다.

<저작권자 Copyright ⓒ ER 이코노믹리뷰 무단전재 및 재배포 금지>