"엔비디아 게 섰거라"…AI칩 스타트업, 저렴·특화 앞세워 시장서 '고군분투'

[AI리포터]

[디지털투데이 AI리포터] 엔비디아 그래픽처리장치(GPU)가 인공지능(AI) 시장을 계속 지배하고 있는 가운데 엔비디아 경쟁사를 자처하는 세레브라스(Cerebras), 디매트릭스(d-Matrix), 그록(Groq) 등 칩 스타트업들이 더 저렴하면서 더 특화된 제품에 집중하는 모양새다. 이들은 챗봇 및 기타 생성 AI 애플리케이션(앱)이 더욱 대중화됨에 따라 인공지능 '추론'에 대한 수요가 기하급수적으로 증가할 것이라 전망하고 있다.

AI 칩은 기본적으로 두 범주로 나뉜다. 하나는 기존 AI 모델을 운영하는 데 사용되는 '추론'(inference) 칩이며 또 다른 하나는 새로운 AI 모델을 개발하는 데 사용되는 고성능 데이터 처리 구성 요소인 '훈련'(training) 칩이다. 예를 들어 오픈AI가 챗GPT 챗봇의 새로운 모델을 개발하기 위해서는 수만개의 훈련 칩이 필요하지만 질문에 답하려면 추론 칩을 사용해야 한다.

세레브라스는 지난달 말, 접시 크기의 CS-3 칩을 기반으로 하는 '세레브라스 인퍼런스'(Cerebras Inference) 플랫폼을 발표했다. 세레브라스는 자사 솔루션이 AI 추론에서 엔비디아 호퍼 칩보다 20배 빠르며 가격은 훨씬 저렴하다는 입장이다.

AI 처리의 '추론' 부분에 최적화된 칩을 설계하는 디매트릭스는 올해 말 자체 칩 플랫폼인 코르세어(Corsair)를 본격적으로 출시할 계획이며, 트리톤(Triton)과 같은 오픈 소프트웨어와 자사 제품을 페어링하고 있다고 밝혔다. 트리톤은 엔비디아의 쿠다(CUDA)와 경쟁하는 소프트웨어 플랫폼으로, 이들 플랫폼은 개발자에게 AI 앱을 구축하고 칩의 성능을 최적화하는 도구를 제공한다.

구글 TPU(tensor processing unit) 팀 멤버가 이끄는 또 다른 AI 추론 칩 경쟁사 그록(Groq)은 LPU(언어처리장치)라는 칩을 만들고 있는데 특히 AI 추론이 학습을 위한 컴퓨팅 리소스 수요를 추월할 것이며 이러한 상황을 기회 삼아 시장의 한 부분을 개척해 나갈 것으로 기대하고 있다.

AI 훈련과 추론을 모두 타겟으로 할 수 있는 칩을 개발하는 스타트업도 있다. 영국 리서치 회사 옴디아(Omdia)에 의하면 소프트뱅크의 비전 펀드가 지원하는 미국의 삼바노바 시스템(SambaNova Systems), 전 인텔 엔지니어가 이끄는 캐나다의 텐스토런트(Tenstorrent), 그리고 그래프코어가 있다.

한편 우연히도 세레브라스와 그록 등은 모두 2016년에 설립된 공통점이 있다. 설립 8년 차를 맞이하는 시점에서 어떻게 성장 기회를 잡을지 주목된다.

제공: ROA Intelligence

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>