올트먼 방한, 韓 AI반도체 스타트업에 위기이자 기회

서버용 AI반도체 직접 생산하려는 오픈AI

한국서 삼성, SK 만나 고대역폭메모리(HBM)협의

반도체 팹리스(설계) 어떻게 할 지는 알려지지 않아

서버용 NPU 시장 줄어들 수도..국내 팹리스 협업 가능성도

경량화 추세 맞춰 온디바이스 AI로 가자 주장도

[이데일리 김현아 기자]

지난 18일 스위스 다보스 세계경제포럼(WEF)에 참석한 샘 올트먼 오픈AI 최고경영자(CEO). 로이터=연합뉴스

샘 올트먼 오픈AI 최고경영자(CEO),가 지난 26일 방한해 경계현 삼성전자 사장(DS부문)과 곽노정 SK하이닉스 대표를 만난 사실에 대해국내 인공지능(AI) 반도체 팹리스(설계) 스타트업들이 긴장하고 있다. 그의 방한 목적이 고대역폭메모리(HBM)분야 협력에 대한 것으로 예상되는 가운데, 직접 AI 반도체를 만들겠다는 의지를 확인한 것으로 보기 때문이다.

오픈AI가 AI 반도체를 직접 생산하려면 HBM과 같은 메모리 아키텍처, 반도체 수탁 생산을 하는 파운드리, 그리고 설계 능력이 필요하다.

그러나 이번 방한 목적은 HBM 수급에 관한 것으로 전해졌다. 오픈AI가 직접 설계에 참여할지, 대주주인 MS의 반도체 설계팀을 활용할지, 외부 반도체 팹리스 스타트업과 제휴하거나 인수할지 등은 알려지지 않았다.

[이데일리 김일환 기자]

서버용 AI반도체 직접 생산하려는 오픈AI

올트먼이 만들려는 AI 반도체가 서버용 중에서도 ‘추론용 신경망 처리장치(NPU)’로 예상되는 가운데, 국내 AI 반도체 팹리스 기업들인 리벨리온, 사피온, 퓨리오사AI 등은 긴장감을 높이고 있다. 국내 스타트업들의 주력 품목이 바로 서버용 NPU이기 때문이다.

정부는 네이버클라우드와 퓨리오사AI, KT클라우드와 리벨리온, NHN클라우드와 사피온간 협력을 통해 국산 NPU의 국내 데이터센터 적용과 클라우드 기반 AI 서비스 적용을 실증하고 있다.

이름을 밝히지 않은 국내 AI 업체 대표는 “올트먼이 고가인 엔비디아 GPU의 공급 부족을 해결하기 위해 칩 개발에 착수하면, 국내 기업들이 데이터센터 서버용 NPU를 개발하는 데 어려움을 겪을 수 있다”고 우려했다. 그는 “영국의 팹리스 기업인 그래프코어가 엔비디아와의 경쟁에서 밀리면서 마이크로소프트(MS)가 2020년에 자사 클라우드 컴퓨터 센터에서 그래프코어 칩 사용을 중단하지 않았나. 정부의 지원과 기업 간 협력이 절실하다”고 강조했다.

영국의 팹리스 기업 그래프코어는 이미지 처리용으로 설계된 엔비디아 GPU에 비해 AI의 특정 요구사항 충족 수준이 높다고 주장했지만, 시장에서 제대로 인정받지 못하고 있다.

[이데일리 이미나 기자]

협업 가능성 있다 기대도…온디바이스AI로 가자

다만, 올트먼이 국내 팹리스 스타트업과 제휴할 가능성은 열려 있다. 익명을 요구한 AI 반도체 스타트업 대표는 “오픈AI는 다양한 팹리스 업체 리스트를 만들고 있는 걸로 안다”면서 “엔비디아 GPU 한 종류가 아니라 한국·대만·싱가포르 업체에서 이기종 칩(Heterogeneous Chip)을 받아 플랫폼을 만들려 한다면 한국 스타트업에도 기회가 있다”고 기대했다.

세계 최고의 거대언어모델(LLM)을 개발한 오픈AI로선 AI칩 부족 문제를 해결하면서도 특정 업체에 종속되거나 모든 것을 직접 해결하려 하진 않을 것으로 보는 시각이다.

다만, 아마존웹서비스(AWS), 구글, MS에 이어 오픈AI까지 하드웨어(HW) 개발에 대한 야심을 드러내면서 우리나라의 AI 반도체 지원 정책이 확대돼야 한다는 주장도 나온다.

정부는 서버용 반도체를 먼저 키우고 나중에 AI 제품과 서비스에 적용하는 로드맵을 가지고 있었지만, 서둘러 스마트폰 내부에서 직접 연산이 이뤄지는 온디바이스 AI 쪽으로 확대해야 한다는 것이다.

김녹원 딥엑스 대표는 “생성형AI의 파운데이션 모델을 개발하거나, 이를 서비스하는 빅테크들이 직접 하드웨어 칩을 개발하려는 추세가 본격화되고 있다”면서 “모바일 강국인 대한민국이 선도적인 역할을 할 수 있는 것은 (서버용 AI반도체가 아니라)온디바이스AI용 칩”이라고 강조했다.

딥엑스는 CES2024에서 AI성능 최적화를 위한 AI반도체로 구성된 ‘올인포 AI 토탈 솔루션’으로 3관왕에 오른 기업이다. 딥엑스는 통합AI플랫폼 업체 아크릴과 온디바이스 알고리즘 배포에서 협력하고 있다.

AI 경량화 소프트웨어(SW)기업으로는 스퀴즈비츠도 있다. 스퀴즈비츠는 AI모델 추론 과정에서 필요한 메모리 사용량과 연산량을 줄이는 기술을 개발 중인데, 얼마전 카카오벤처스·삼성넥스트·포스코기술투자포스텍홀딩스에서 25억 규모 프리 시리즈A를 유치했다.