‘전기 먹깨비’ 잡은 AI 반도체…발열도 해결 [천억클럽]

(20) 딥엑스

버터 벤치마크 실험?

반도체 발열 테스트할 때 일반인의 이해를 돕기 위해 하는 간단한 실험을 뜻한다. 통상 버터는 30~38℃의 온도에 녹는다. 여러 반도체에 같은 업무를 시키고 수행하는 시간 동안 열이 올라가는지를 알아보는 실험으로 유명하다. 국내 AI 반도체 스타트업 ‘딥엑스’가 주력 제품 DX-M1을 가지고 경쟁사 제품과 함께 이 절차를 따라봤다. Yolo5s라는 인공지능 모델을 초당 30번 추론 연산시켰는데 DX-M1은 시간이 지나도 버터가 녹지 않았다. 반면 동일 상황에서 글로벌 경쟁사 제품 위에 둔 버터는 급격히 녹아내렸다. 그렇다고 딥엑스 제품이 부여한 임무를 더디게 한 것도 아니다. 회사 관계자는 “오히려 세계 최고 실효 AI 연산 성능비(FPS/TOPS·AI 연산 성능 대비 이미지 처리 효율), 세계 최고 전성비(FPS/W·단위 전력당 AI 연산 처리 성능)를 달성했다”고 주장했다.

저전력에 뛰어난 열 효율까지 보유했다는 이 회사에 타임폴리오자산운용을 비롯 스카이레이크에쿼티파트너스, BNW인베스트먼트, 아주IB 등에서 1100억원을 투자했다.

창업자 김녹원 딥엑스 대표 (딥엑스 제공)

딥엑스 어떤 회사?

2018년 김녹원 대표가 창업

창업자는 김녹원 대표.

심층 신경망 연산 하드웨어 시스템, 안정성·신뢰성을 위한 컴퓨터 하드웨어 시스템, 뉴로모픽 컴퓨팅, 시스템온칩 등의 연구로 미국 UCLA에서 박사 학위를 취득했다. IEEE(전기전자기술자협회), ACM 등 세계 최상위 저널에 10편 이상 주 저자와 50여편의 학술 논문을 게재하는 등 연구 성과도 화려하다.

그렇다고 단순 연구자에 그치지 않았다. 미국 브로드컴, IBM을 거쳐 시스코시스템즈(Cisco Systems)에서 네트워크 라우터 칩셋 애플리케이션 프로세서 설계 업무를 담당했다. 이후 애플로 옮겨 애플리케이션 프로세서 설계 핵심 엔지니어로 일하며 전자기기에 사용 가능한 AI 반도체도 참여했다.

특히 그는 온디바이스 AI 반도체 시장이 빠르게 성장할 것으로 봤다. 애플에 근무하면서 인터넷 통신이 끊긴 곳이라 해도 스마트폰이 어디서든 통역, 연산 등 다양한 업무를 수행할 수 있는 시대가 올 것으로 예상했기 때문. 2018년 그가 창업한 이유다.

“인구의 10배에 해당하는 전자기기가 인간 수준 인지 능력을 갖고 24시간 먹지도 자지도 쉬지 않는다면 4차 산업혁명을 넘어 초지능 사회가 올 것이라고 봤습니다. 그때가 되면 인류 문명이 다음 단계로 진화하는 계기를 맞을 것입니다. 인류 문명에 근본적인 기여를 하는 것이라면 재능과 인생을 투여하는 데 가장 가치 있을 것으로 생각, 딥엑스를 설립했습니다.”

실제 챗GPT가 등장하고 이후 AI 대중화 시대가 본격화되면서 김 대표의 이런 예상은 맞아떨어졌다. 당장 삼성전자가 AI 스마트폰을 출시하는 등 시장은 급박하게 돌아갔다.

딥엑스의 주력 제품은 DX-M1.

딥엑스 강점 무엇?

700여 잠재 수요 파악해 맞춤형 제공

딥엑스 제품의 핵심 경쟁력은 저전력, 즉 ‘전기 잡아먹는 하마’가 아니라는 사실이다. 이런 기술을 구현하기 위해 딥엑스는 GPU 대비 수십 분의 일 이하로 D램 사용을 최소화하는 기술인 ‘스마트 메모리 액세스(Smart Memory Access)’, INT8 모델 압축 기술인 ‘IQ8™’과 같은 원천기술을 개발했다. 이를 통해 복잡한 AI 반도체 모델 정확도를 열화 없이 경량화했다는 평가를 얻었다.

더불어 딥엑스는 수요처 기반 맞춤형 기술 개발로 차별화했다.

여타 업체는 AI 반도체를 하나 만들어 내놓는 데 주력한다. 반면 딥엑스는 여러 버전으로 개발했다. 스마트폰 외에 CCTV, 로봇 등 전 세계 700여 다양한 업체를 만나 의견을 들어본 결과다. 체급이 다른 전자기기에 같은 반도체가 쓰이는 것 자체가 어불성설이라고 본 딥엑스는 하나의 전자기기를 연결해 AI를 연산처리할 수 있는 칩, 서너 개의 전자기기를 연결해 AI를 연산처리할 수 있는 칩 등을 다양하게 개발해 어떤 장치(디바이스)에서든 사용할 수 있게 범용성을 갖추는 데 집중했다.

회사 관계자는 “ ‘올인포 AI 토탈 솔루션’은 카메라 외 3D 센서 처리가 필요한 자율주행, 로봇 비전 등에 특화한 ‘DX-V3’, 칩 하나로 16채널 이상의 다채널 영상에서 30FPS(초당 프레임, 30초 길이의 영상을 생성)로 실시간 연산처리가 가능한 ‘DX-M1’, AI 추론 전용 GPGPU 대비 성능, 전력 효율성을 극대화한 ‘DX-H1’으로 구성돼 있다”며 “종전 경쟁사 제품 대비 범용성, 전성비(전력 대비 효율) 면에서 우위에 있다”고 설명했다.

투자사가 주목한 것도 이런 내용이다.

스카이레이크 관계자는 “딥엑스는 글로벌 경쟁력을 갖춘 제품 라인업을 보유하고 있으며, 이를 통해 시간적·기술적 진입장벽을 구축했다”고 평가하며 “경쟁사 대비 적은 SRAM을 사용하면서도 뛰어난 성능을 구현하는 칩을 개발했으며, 다수 특허의 원천기술을 보유하고 있다는 점도 매력적”이라고 말했다.

실제 딥엑스가 올해 9월 기준 AI 반도체 관련 국내외에 출원한 특허 수는 297건, 등록된 특허만 71건에 달한다. CES 2024에서 3개 부문 혁신상을 수상하며 기술력을 인정받은 바 있다.

호환성 면에서도 발군이다. 회사 관계자는 “DX-M1은 기존의 임베디드 시스템에 쉽고 빠르게 연결될 수 있도록 소형의 M.2 모듈, E1.S 모듈 형태가 지원되며, ‘DX-H1’은 기존 GPU 솔루션과 호환돼 GPU 기반으로 학습된 AI 모델을 지원하는 유연한 인터페이스를 제공한다”며 “이는 고객들이 기존 시스템 수정 없이 저전력, 고성능 AI 솔루션을 쉽게 연동시킬 수 있는 장점이 있다”고 소개했다.

한편 딥엑스는 TSMC, 삼성 디자인 하우스인 가온칩스와 삼성 파운드리 5, 14, 28나노 공정을 MPW(멀티프로젝트웨이퍼) 방식으로 다양하게 시제품을 제작, 올 하반기 양산을 눈앞에 두고있다.

AI 반도체는 계속 진화 중

기술 독립으로 로열티 받는 회사 목표

물론 우수한 제품과 기술력만 있다고 회사가 성장하는 것은 아니다.

이미 미국, 중화권, 유럽, 일본 등 120여곳 이상의 글로벌 회사에 시제품 형태로 딥엑스 하드웨어와 소프트웨어 개발 툴(도구)인 ‘DXNN’을 제공했다. 이를 바탕으로 딥엑스는 올 하반기 10여곳의 글로벌 대기업 고객사와 다각적으로 양산 개발 협력을 하고 있다.

김 대표는 “내년 상반기 첫 제품의 양산과 맞춰 글로벌 20여개 이상 고객사과 협력하게 될 것으로 예상된다”고 밝혔다.

더불어 회사 측은 종전 제품 후속으로 5W(와트) 이하에서 초거대 AI 수준의 인공지능 서비스가 가능한 신제품을 개발, 챗GPT로 촉발된 거대 인공지능 기술이 과학의 영역을 넘어 인류가 널리 사용할 수 있게 하는 핵심 기술을 제공하겠다고 밝혔다.

“딥엑스는 프로세서 기술 독립이라는 목표가 있습니다. 한국 사회는 지난 30여년간 CPU와 GPU 같은 프로세서 기술을 획득하기 위해 10조원 이상 투자를 해왔지만 성공하지 못했습니다. 현재까지 CPU와 GPU 기술은 대부분 외산 기술에 종속돼 천문학적인 로열티를 지불하고 있습니다. 딥엑스는 인공지능 프로세서 기술에서 국내 산업의 기술 독립을 목표로 하고 있습니다.” (김녹원 대표).

[박수호 기자 park.suho@mk.co.kr]

[본 기사는 매경이코노미 제2280호 (2024.10.16~2024.10.22일자) 기사입니다]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]