[고든 정의 TECH+] 차세대 GPU 메모리의 미래…한국이 주도하는 HBM 메모리

[서울신문 나우뉴스]

SK 하이닉스의 HBM2E 메모리. 출처 : SK 하이닉스

현재 그래픽 카드 메모리의 주류는 GDDR (Graphics DDR) SDRAM 메모리입니다. 초창기 그래픽 카드는 PC용 시스템 메모리와 동일한 메모리를 사용했지만, 그래픽 처리 프로세서인 GPU의 급격한 성능 발달로 이미 2000년대 초반 속도 한계에 직면했습니다. CPU용으로 개발된 시스템 메모리로는 GPU가 처리하는 방대한 데이터를 감당하기 어려워진 것입니다.

기본적으로 GPU는 큰 크기의 고해상도 그래픽 데이터를 빠르게 (가능한 초당 60 프레임 이상으로) 처리해야 합니다. 그래야 화려한 게임 그래픽을 끊김 없이 처리할 수 있습니다. 이런 이유로 2003년부터 일반 DDR 메모리보다 더 큰 대역폭을 지닌 GDDR 메모리가 그래픽 카드에 도입되기 시작합니다.

GDDR2 메모리는 2003년 출시한 엔비디아의 지포스 FX 5700/5800 울트라 시리즈에 처음 사용됩니다. (1세대 GDDR 메모리는 90년대 후반 등장했는데 당시 그래픽 카드에는 사용되지 않았습니다) 하지만 GDDR 메모리의 본격적인 보급은 2004년 등장한 GDDR3부터입니다.

GDDR3는 나중에 AMD에 합병된 ATI와 엘피다, 하이닉스, 인피니온 등 메모리 제조사들이 협력해 만든 그래픽 메모리 규격입니다. 이름과는 달리 DDR2 기반으로 덕분에 DDR3 메모리 규격이 확립되기 전인 2004년부터 본격적으로 보급될 수 있었습니다. GDDR 메모리는 DDR 메모리보다 데이터가 지날 수 있는 통로가 더 많고 데이터 전송 속도가 빨라 3D 그래픽처럼 대용량 데이터를 빠르게 처리할 때 유리합니다.

사실 GPU가 빠른 속도로 발전할 수 있었던 것은 이를 뒷받침할 GDDR 메모리의 발전이 있었기 때문입니다. 따라서 DDR 메모리보다 버전 업데이트가 훨씬 빨리 이뤄져 DDR4 메모리가 도입되는 동안 GDDR5, GDDR5x, GDDDR6 같은 새로운 규격이 등장했습니다.

GDDR6 메모리를 사용한 지포스 RTX 2080의 경우 14Gbps GDDR5 (256bit) 메모리에서 448GB/s의 넓은 대역폭을 지원받고 있습니다. 이는 DVD 영화 100편 정도를 1초에 전송하는 속도입니다.

하지만 GDDR 메모리 규격 역시 점점 한계에 도달하고 있습니다. GDDR3에서 메모리 칩 하나 당 19.9 GB/s의 속도를 확보했고, GDDR5에서 40–64 GB/s, GDDR6에서 112–128 GB/s으로 늘어나기는 했지만, GPU의 연산 능력이 급격히 향상되면서 한계에 봉착한 것입니다.

이는 GPU가 게임에서만 쓰이는 것이 아니라 인공지능이나 슈퍼컴퓨터 같은 더 중요한 분야에 사용되면서 연산 능력이 급격히 높아진 것도 원인입니다. HBM (High Bandwidth Memory) 메모리는 이 문제에 대한 가장 합리적인 해결책입니다.

HBM 메모리는 삼성전자, SK 하이닉스, AMD의 협력으로 개발되었으며 2013년 SK 하이닉스에서 첫 제품을 내놓았습니다. HBM은 여러 개의 D램 다이(die)를 아파트처럼 수직으로 쌓고 여기에 데이터 통로인 TSV (through-silicon via)를 뚫어 고속으로 데이터를 주고받는 메모리라고 할 수 있습니다.

아예 통로를 여러 개 뚫어 대량으로 데이터를 전송하기 때문에 대역폭에서 GDDR6 메모리를 크게 앞설 수 있습니다. 따라서 슈퍼컴퓨터나 인공지능 연산용 고성능 GPU에 사용됩니다. 하지만 비싼 가격으로 인해 일반 그래픽 카드에는 제한적으로 보급되고 있습니다.

AMD의 라데온 VII. 중앙의 GPU 옆에 4개의 HBM2 메모리가 붙어 있는 구조. 출처: AMD

올해 출시된 AMD의 라데온 VII 그래픽 카드는 HBM2 메모리를 사용하는데, 4개만 있어도 1TB/s의 대역폭과 16GB의 메모리 용량을 확보할 수 있습니다. 하지만 이미 국내 메모리 제조사들은 이를 뛰어넘는 제품을 개발했습니다.

올해 3월 삼성전자가 공개한 플래시볼트 (Flashbolt) HBM2E 메모리는 칩 하나 당 410GB/s의 대역폭과 16GB의 용량을 제공합니다. 8개의 다이를 수직으로 올린 후 5000개 이상의 TSV로 연결해 속도와 용량을 획기적으로 끌어 올렸습니다. 그리고 이번 달 SK 하이닉스는 이보다 더 빠른 460GB/s 속도의 HBM2E 메모리를 개발했다고 발표했습니다. 이 제품을 4개 사용한 GPU는 1.84TB/s의 대역폭과 64GB의 용량을 확보할 수 있습니다.

이렇게 빠르고 용량이 큰 메모리가 필요한지 의문을 지닐 수도 있지만, 단순히 게임용이 아니라 인공지능 및 슈퍼컴퓨터를 위해서는 이것도 부족할 수 있습니다. 현재 국내 제조사들은 HBM2E보다 더 빠른 HBM3 및 HBM4 메모리 개발을 위한 연구를 진행하고 있습니다.

이 메모리는 현재 미국이 개발하는 엑사스케일 슈퍼컴퓨터에 사용될 것입니다. 국내 기업이 주도하는 HBM 메모리는 인공지능 및 슈퍼컴퓨터 개발에 없어서는 안 될 핵심 부품이라고 할 수 있습니다.

다른 한편으로 일반 소비자용 그래픽 카드에서 HBM 메모리를 사용할 수 있게 하려는 시도도 진행 중입니다. GDDR 규격도 좀 더 빨라질 수 있지만, 대역폭 문제의 근본적인 해결책은 메모리 구조 자체를 혁신한 HBM 메모리의 염가형 버전을 보급하는 것입니다.

HBM 메모리를 사용한 그래픽 카드 중 그나마 저렴한 라데온 VII이 699달러로 아직 꽤 비싼 편이기 때문에 500달러 이하 그래픽 카드에서 사용할 수 있는 HBM 메모리가 필요할 것입니다.

결국 이 문제 역시 국내 제조사들의 노력에 달려 있습니다. GDDR 메모리가 결국 DDR 메모리를 대체하고 그래픽 카드 메모리의 대세가 된 것처럼 언젠가는 HBM 메모리가 새로운 대세가 될 날이 올 것으로 기대합니다.

고든 정 칼럼니스트 jjy0501@naver.com

▶ [웰 메이드 N], 재미있는 세상[나우뉴스]

▶ [인기 무료만화] [페이스북]