AI 시대 주도할 반도체는 '메모리'...삼성전자·SK하이닉스, AI 칩 시장 선점 자신

삼성전자와 SK하이닉스가 AI 반도체 시장 주도권 확보에 나서고 있다. (사진=셔터스톡, 편집=김동원 기자)

삼성전자와 SK하이닉스가 AI 반도체 시장 주도권 확보에 나서고 있다. (사진=셔터스톡, 편집=김동원 기자)전 세계 메모리 반도체 1, 2위 업체인 삼성전자와 SK하이닉스가 인공지능(AI) 반도체 시장 주도권 확보에 나섰다. 현재 AI 연산에 주로 사용되는 그래픽처리장치(GPU), 중앙처리장치(CPU), 데이터처리장치(DPU) 등 프로세싱 유닛이 가진 한계를 메모리 기술로 극복해 AI 시장을 주도하겠다는 전략이다.

한국반도체산업협회장인 이정배 삼성전자 사장(메모리사업부장)은 '제23회 반도체대전(SEDEX 2021)' 기조연설에서 "AI는 반도체 업계에서도 가장 큰 화두"라며 "기존 반도체 발전 속도만으로 AI 워크로드를 대응하기 어렵기 때문에 (반도체 업계에는) 단품에서부터 시스템까지 많은 변화가 요구되고 있다"고 말했다. 이어 "현재 시스템은 CPU, GPU, DPU 등 여전히 프로세싱 유닛 중심으로 되어 있지만, 미래 컴퓨팅은 데이터 처리가 중심이 되기 때문에 곧 메모리가 데이터 환경을 주도할 것"이라고 밝혔다.

반도체 업계가 AI 시장을 주목하는 이유는 빠르게 성장하는 AI 워크로드 때문이다. 현재 AI는 이미지처리, 음성인식, 자연어처리 등 영역 확대가 빠르게 이뤄지고 있다. 새로운 AI 모듈도 글로벌 업체를 중심으로 빠르게 출시되고 있다. 이러한 영향으로 2010년까지 2년에 2배씩 증가해왔던 AI워크로드는 3~4개월에 2배 이상 증가하는 방향으로 급격한 발전을 이뤘다. AI 개발에 사용되는 데이터양은 1년에 10배가량 증가하는 추세다.

AI 발전으로 2010년 이후부터 데이터양이 급격히 증가하고 있다. (사진=반도체대전 행사 캡쳐)

AI 발전으로 2010년 이후부터 데이터양이 급격히 증가하고 있다. (사진=반도체대전 행사 캡쳐) 처리해야 할 데이터가 급증하면서 반도체도 변화가 필요해졌다. 하나의 칩셋(Chip Set)에서 소화할 수 있는 데이터양이 증가한 영향이다. 이 사장은 "미래 대응을 위한 반도체 역할은 중요해지고 있지만, 기술적 어려움은 커지고 있다"며 "성능 증대 요구에 맞춰 CPU 코어와 트랜지스터 양이 증가하면서 칩 사이즈가 커졌고, 웨이퍼 수율과 후공정 등의 양산 난이도가 높아졌다"고 지적했다.

또 "성능 증가 영향으로 전력 소모 역시 10년 전보다 수배 증가했다"면서 "칩 사이즈가 커지는 만큼, 전체 칩에 전력이 고르게 공급되지 못해 성능 저하가 발생하는 다크 실리콘 한계가 나타나고 있다"고 꼬집었다.

이 사장은 이 문제를 메모리 기술 혁신으로 풀어갈 수 있다고 자신했다. 메모리에서 연산 기능을 적절히 활용하면 각 프로세싱 유닛과 메모리 사이에 데이터 이동이 효율화돼 전력 소모를 줄일 수 있다고 설명했다. 궁극적으로는 전체 시스템 성능도 향상시킬 수 있다고 밝혔다.

그는 "메모리 제품에 추가 기능을 더하는 연구를 많이 진행하고 있다"면서 "현재 개발 중인 메모리시스템으로는 고대역폭 메모리-프로세스 인 메모리(HBM-PIM)와 컴퓨팅 스토리지(Computing Storage), CXL(Compute Express Link) 기반 새로운 솔루션이 있다"고 소개했다.

이정배 삼성전자 사장은 AI 반도체 시장 선점을 위해 HBM-PIM, 컴퓨팅 스토리지, CXL 기반 솔루션을 개발하고 있다고 밝혔다. (사진=반도체대전 행사 캡쳐)

이정배 삼성전자 사장은 AI 반도체 시장 선점을 위해 HBM-PIM, 컴퓨팅 스토리지, CXL 기반 솔루션을 개발하고 있다고 밝혔다. (사진=반도체대전 행사 캡쳐)HBM-PIM은 초고속 고대역폭메모리(HBM:High Bandwidth Memory)와 AI 프로세서를 하나로 합쳐 성능은 높이고 전력소비량을 낮춘 제품이다. 여기서 PIM은 메모리 반도체에서 자체적으로 데이터 연산을 할 수 있도록 만드는 기술을 의미한다.

[관련기사] [AI 칩러닝] 정부가 1조원 예산 투입해 개발한다는 반도체 'PIM'은 무엇일까?

삼성전자에 따르면 HBM-PIM을 탑재할 경우 기존 고대역폭메모리2(HBM2)를 이용한 시스템 대비 약 2배 이상 성능을 높이고, 70% 이상 소모되는 에너지를 줄일 수 있다.

CXL은 AI, 머신러닝, 빅데이터 등 고성능 컴퓨팅 시스템에서 CPU와 함께 사용되는 가속기, 메모리, 저장장치 등을 보다 효율적으로 활용하기 위해 제안된 차세대 인터페이스다. 현재 데이터센터와 서버 플랫폼에 사용되는 DDR 인터페이스의 한계를 극복할 수 있는 장점이 있다. 현재 사용되는 DDR 엔터페이스는 시스템에 탑재할 수 있는 D램 용량에 한계가 있었다. 삼성전자 측은 CXL 기반 솔루션의 경우 대용량·고대역 D램 기술 개발을 통해 기존 컴퓨팅 시스템의 메모리 용량의 물리적 한계를 극복하고 D램의 용량을 획기적으로 확장할 수 있다고 설명했다.

이정배 삼성전자 사장. (사진=반도체대전 행사 캡쳐)

이정배 삼성전자 사장. (사진=반도체대전 행사 캡쳐)삼성전자와 메모리 양대 산맥을 이루고 있는 SK하이닉스도 메모리 기술 기반 AI 반도체 기술력을 자신했다. 많은 양의 데이터를 빠르게 처리할 수 있는 고대역폭메모리(HBM) 기술과 SK텔레콤과 협력해 개발한 '사피온 X220' 등을 반도체대전 전시장에 전시, 기술력을 뽐냈다.

HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 제품이다. 기존 CPU 옆에 꽂아 쓰는 D램과 달리 시스템과 달리 하나의 시스템(SIP, System in Package)으로 되어 있어 데이터가 오가는 거리가 짧아 전송 속도를 높이고 그래픽 카드 크기를 줄일 수 있는 장점이 있다.

SK하이닉스는 반도체대전 전시장에 HBM 제품을 전시했다. (사진=김동원 기자)

SK하이닉스는 반도체대전 전시장에 HBM 제품을 전시했다. (사진=김동원 기자)SK하이닉스는 최근 HBM 4세대 제품인 'HBM3'를 업계 최초로 개발했다. 이전 모델보다 데이터 처리 속도가 약 78% 빠르다. 용량도 업계 최대 수준인 24기가바이트(GB)까지 올렸다. 고성능 데이터센터에 탑재돼 AI, 머신러닝, 기후변화 해석, 신약개발 등에 사용되는 슈퍼컴퓨터에 적용될 전망이다.

[관련기사]SK하이닉스, EUV 적용 4세대 D램 첫 양산...생산량 25%↑전력소비 20% ↓

SK하이닉스 관계자는 "HBM은 많은 양의 데이터를 처리해야 하는 AI, 머신러닝, 5G, 증강현실 등에 활용되는 컴퓨팅시스템에 유용하게 사용할 수 있다"고 설명했다.

사피온은 SK텔레콤과 SK하이닉스가 협력해 개발한 데이터센터용 AI 반도체다. (사진=김동원 기자)

사피온은 SK텔레콤과 SK하이닉스가 협력해 개발한 데이터센터용 AI 반도체다. (사진=김동원 기자)사피온 X220은 데이터센터에 사용되는 AI 반도체다. 범용 PCle(PCI Express) 기반으로 SKT뿐 아니라 여러 데이터센터에 즉시 적용할 수 있다. 엔비디아 T4 GPU 대비 딥러닝 연산 속도가 1.5배 빠르고 가격은 절반 수준으로 낮췄다. 전력 소모도 80% 적게 들어간다.

SKT는 사피온 기반 기술을 지속 개발하고 있다. 내년에는 사피온 기반 AI 영상분석 솔루션을 출시 예정이다. SKT 측은 GPU를 탑재한 타 서비스에 비해 빠르고 정확한 영상분석 기술을 제공할 수 있다고 밝혔다.

[관련기사] SKT, AI 기반 지능형 영상분석 솔루션 내년 상반기 출시...자체 AI칩으로 기술 격차 자신

SK하이닉스 관계자는 "현재 SKT와 협력 새로운 사피온(X330)을 준비하고 있다"며 "이 칩은 내년 출시 예정"이라고 말했다.

AI타임스 김동원 기자 goodtuna@aitimes.com

[관련기사] AI 시대, 반도체는 미세화에서 패키징으로 한 단계 더 진화한다

[관련기사] 정부, AI 반도체 육성 계획 발표...기업 참여가 관건

Copyright ⓒ '인공지능 전문미디어' AI타임스 (http://aitimes.com)