AI 칩 시장, 추론AI 부상 속 대형 업체 위주로 재편 탄력

[황치규 기자]

[디지털투데이 황치규 기자]엔비디아가 AI 칩 개발 스타트업 그록을 사실상 인수하면서 AI 칩 시장 판세가 대형 업체 위주로 빠르게 재편되는 모양새다.

그동안 AI 칩 시장에는 엔비디아에 도전장을 던지는 스타트업들이 쏟아졌는데, 최근 상황은 달라졌다. 독자적으로 엔비디아와 경쟁하는 것에 어려움을 느끼는 AI 칩 스타트업들이 대형 업체 품에 안기는 사례가 늘었다.

인텔은 AI 칩 개발 스타트업 삼바노바(SambaNova)를 인수하기 위한 진전된 협상을 진행 중이다. 양사 거래는 이르면 내년 1월 성사될 수 있을 것이라고 디인포메이션이 내부 사정에 정통한 한 소식통을 인용해 전했다.

10월에는 메타가 자체 AI 칩 개발 역량 강화를 위해 리보스(Rivos)를 인수했고 AMD는 6월 추론용 AI 칩 개발 스타트업인 언테더AI( Untether A) 멤버들을 영입했다.

이런 가운데 구글, 아마존 등 빅테크 기업들도 엔비디아 추격전에 속도를 내고 있다. 구글은 AI 모델 학습과 추론에 모두 쓰일 수 있는 TPU를 앞세워 최근 유력 기업들을 고객사로 확보했다. 애플 같은 기업들이 대규모 AI 모델 학습을 위해 구글 TPU를 사용하고 있고 최근에는 앤트로픽도 TPU 구매자 리스트에 이름을 올렸다.

AI 칩 시장 판세 재편은 AI 모델 학습을 넘어 학습된 모델 기반으로 서비스를 제공하는 이른바 추론(inference) 시장이 커지는 것과도 맞물려 있다. 인텔이 인수하려는 삼바노바, AMD가 데려온 엔터더AI 출인 인사들도 모두 추론AI 개발이 주특기다.

엔비디아가 그록 기술 확보를 위해 200억달러를 베팅한 것으로 전해지는데, 추론 시장 지분 확대를 위한 포석이라는 분석이다.

디인포메이션 등 외신들에 따르면 이번 거래는 엔비디아가 추론용 서버칩을 디자인하는데 도움이 될 것으로 보인다.

엔비디아 GPU와 소프트웨는 AI 모델을 개발하는데 가장 강력하고 효과적이라는 평가를 받아왔다. 하지만 학습된 AI 모델 위에서 AI 서비스를 돌리는 추론 워크로드에선 학습에 투입되는 고성능 고가 칩이 필요치 않을 수 있다.

그록을 포함해 엔비디아에 도전장을 던지는 AI 칩 스타트업들도 추론에 집중해왔다. 학습은 몰라도 추론은 해볼만 하다는 판단에서였다.

그록과 맺은 거래를 보면 엔비디아도 추론 워크로드 관련 특화 칩들에 대한 수요가 커지고 있다는 것을 인지한 것으로 보인다. 엔비디아는 9월 특화 칩인 루빈 CPX(Rubin CPX)를 내놨지만 루빈 CPX는 그록 같은 경쟁사들이 디자인하는 특화 칩보다는 여전히 범용 GPU에 보다 많이 기반하고 있다고 디인포메이션은 전했다.

2016년 설립된 그록은 AI 모델을 돌릴 수 있는 LPU(language processing unit) 칩과 소프트웨어를 개발해왔다. 회사측은 LPU에 대해 메모리를 내장한 디자인에 기반해 GPU 대비 에너지를 덜 소모하면서 보다 빠르게 생산 및 배치될 수 있다는 점을 강조해왔다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>