HBM은 '아파트', CXL은 '전자도서관' [AI 반도체 시대②]

메모리 업계, HBM 이을 그 다음 반도체 '주목'

HBM이 아파트라면 차세대 '지능형 반도체'는 '주상복합'

그 다음 차세대 반도체인 CXL은 전자도서관 개념

[서울=뉴시스]SK하이닉스가 고대역폭메모리(HBM) 5세대 제품 HBM3E를 세계 최초로 대규모 양산해 이달 말부터 제품 공급을 시작한다. (사진 = 업체 제공) 2024.03.19. photo@newsis.com *재판매 및 DB 금지

[서울=뉴시스]이인준 기자 = AI(인공지능) 시대가 활짝 연 HBM(고대역폭메모리) 시장은 어디까지 발전할 수 있을까.

업계에서는 10년 이상 먼 미래로 가면 HBM은 성능과 효율이 더욱 고도화되는 방향으로 진화할 전망이다.

HBM은 생산 단가가 높고 수율(합격율) 관리가 어렵다. 또 D램을 수직으로 층층이 쌓는 방식인 만큼 물리적 한계에 부딪칠 수도 있다. 이를 어떻게 돌파하느냐가 업게의 최대 고민거리다.

아파트에서 주상복합으로…HBM도 진화한다

현재 HBM은 그래픽처리장치(GPU)와 메모리 간 이동 통로를 더 늘려 데이터 이동 속도를 높여준다. 이를 테면 고층 아파트에 고속 엘리베이터를 다는 셈이다.

여기서 한 발 나아가면 데이터 이동 거리를 어떻게 더 줄이느냐가 관건이다. 이렇게 한 것이 바로 '지능형 반도체'다.

HBM이 아파트라면 지능형 반도체는 '주상복합'이다. '주거'(HBM)와 '업무·상가'(CPU·GPU) 등이 하나로 합쳐진다.

지능형 메모리는 ▲PNM(Process Near Memory) ▲PIM(Process In Memory) ▲CIM(Computing In Memory) 순으로 발전 로드맵이 구체화되고 있다.

하나의 장치 안에 프로세서와 메모리가 동시에 존재해 속도를 높인다.

그 다음은 아예 데이터를 저장하는 메모리에 일부 계산 기능을 맡기는 형태로 발전할 전망이다. 궁극적으로는 메모리가 프로세서와 결합된다. 그러면 메모리가 프로세서에 명령을 내리는 '지휘자'가 될 수 있다. 메모리와 시스템 반도체의 경계가 완전히 무너지는 셈이다.

[서울=뉴시스]삼성전자는 AI 전용 반도체 솔루션인 PIM(Processing-In-Memory) 기술을 고성능 D램인 HBM에 세계 최초로 적용했다. (사진=삼성전자 반도체 뉴스룸) photo@newsis.com *재판매 및 DB 금지

경계 허무는 CXL…빅블러의 시대 온다

CXL(컴퓨트익스프레스링크)도 고정관념을 허무는 신 개념이다.

현재 AI 학습과 추론을 위한 GPU에는 HBM이 탑재되지만, 서버용 CPU에는 DDR5 같은 기존 D램이 그대로 사용된다. 각각 장치의 통신 규격이 달라 데이터 이동 과정에서 지체가 생기기 마련이다.

고속도로에서 나들목으로 나서면 도로 폭이 좁아지고, 정체가 생기는 것과 비슷하다.

CXL은 메모리뿐 아니라 GPU, AI 가속기 등 서로 다른 컴퓨팅 장치들을 고속으로 저지연 연결이 가능하도록 해주는 연결 표준이다.

앞서 HBM을 아파트나 주상복합에 비유했다면, CXL은 '전자 도서관'이나 마찬가지다.

CXL은 다양한 장치들이 함께 쓸 수 있는 공유형 창고(메모리)를 제공한다. 그래서 CPU나 GPU 등 서로 다른 장치는 물론 컴퓨터끼리도 데이터 지연 없이 자유롭게 오간다.

이론상 메모리 용량을 무한대로 확장하는 것도 가능하다. 그래서 여러 대의 서버가 메모리를 함께 공유하는 환경을 구축할 수 있다. 성능과 영역의 경계가 없어진다는 '빅블러(Big Blur)'다.

책을 읽으려고 반납을 기다릴 필요가 없다.

누가 어떤 작업을 하고 있는지도 실시간으로 안다. 빈 책장이 어디인지도 바로 파악된다. 현 시스템 상 메모리의 25%는 유휴 공간이다. CXL을 사용하면 메모리의 전 용량을 유휴 영역 없이 사용할 수 있다.

AI는 컴퓨팅의 중심을 메모리로 이동시켰다. 이른바 '메모리 센트릭'이다. 앞으로 정보통신기술(ICT) 기기에서 메모리 반도체의 중요성은 더 높아질 전망이다.

*재판매 및 DB 금지

☞공감언론 뉴시스 ijoinon@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>