엔비디아, 핫칩서 데이터센터 '액침냉각' 기술 등 연구 성과 발표

엔비디아가 지난달 25일에서 27일까지(현지 시간) 미국 캘리포니아주 스탠포드 대학교에서 열린 반도체 콘퍼런스 '핫칩 2024'에서 엔비디아 블랙웰 플랫폼 발전 사항과 데이터센터용 액체 냉각 기술, 칩 설계용 AI 에이전트에 대한 연구를 발표했다.

핫칩 2024는 반도체와 하드웨어 설계 분야에서 고성능 마이크로프로세서, 그래픽 프로세서, 칩 설계 및 하드웨어 아키텍처와 관련된 기술과 혁신을 발표하고 국제 학술회의다.

이번 행사에서 엔비디아는 데이터센터 컴퓨팅과 설계 영역에서 엔비디아 엔지니어들이성능, 효율성, 그리고 최적화를 제공하기 위해 혁신하고 있는 방법들을 소개했다.

앞선 25일에는 세 가지 튜토리얼을 진행했다. 하이브리드 액체 냉각 솔루션이 데이터센터가 에너지 효율적인 인프라로 전환하는 데 어떻게 도움이 되는지, 거대 언어 모델(LLM) 기반 에이전트를 포함한 인공지능(AI) 모델이 엔지니어가 차세대 프로세서를 설계하는 데 어떻게 도움이 될 수 있는지 등을 다뤘다. 또 엔비디아 엔지니어들이 데이터센터 컴퓨팅과 설계의 모든 영역에서 최고의 성능을 내기 위해 어떻게 혁신하고 있는지 등에 대해 설명했다.

또 엔비디아는 4분기에 출시할 차세대 AI 반도체부터 기존 공랭식에 액체냉각을 더한 새로운 '액침 냉각 방식'을 본격 도입할 것이라고 밝혔다. AI칩 블랙웰 출시를 앞두고 데이터센터 전력 소비를 줄이기 위해 액체 냉각 시스템을 도입하는 것. 엔비디아 측은 액체냉각 방식을 통해 데이터센터 소모 전력을 최대 28%까지 줄일 것으로 예상한다고 설명했다.