뜨거운 AI 서버, 액체로 직접 식힌다…KT클라우드, AI이노센터 공개 : zum 뉴스

D2C 수냉식 시스템 구현…액침냉각 모형도 전시
엔비디아 B200·AI 서버 랙 등 구현
AI 전용 네트워크·전력 인프라도 구축

KT클라우드는 인공지능(AI) 데이터센터 인프라와 쇼룸을 결합한 기술 실증 허브인 'AI 이노베이션 센터'를 선보인다고 11일 밝혔다. KT클라우드는 이곳에서 고발열 AI 칩을 빠르게 식힐 수 있는 액체 냉각 기술을 포함한 AI 인프라 기술을 실증하고 적용한다는 계획이다.

이 센터는 엔비디아 최신 B200 그래픽처리장치(GPU)와 AI 서버 랙(Rack), 직접 칩 냉각(D2C) 액체 냉각 장치, AI 네트워크 등 실제 AI 데이터센터와 동일한 환경을 구현했다. 특히 KT클라우드가 상용화와 기술 검증을 진행 중인 냉각 기술이 집중적으로 구현됐다.

KT클라우드의 AI 이노베이션 센터에 구현된 AI 인프라 랩. KT클라우드 제공

KT클라우드는 센터에 글로벌 AI 서버들이 표준으로 채택하는 D2C 수냉식 시스템을 우선 구현했다. 이 기술은 GPU 칩에 플레이트를 부착해 냉수를 직접 접속하는 방식이다. KT클라우드는 센터를 통해 1㎾급 모듈 8개로 구성된 서버형 수냉식 부하기 기반의 D2C 수냉식 시스템 작동 모습을 구현했다. KT클라우드는 지난달 개소한 가산 AI 데이터센터에 이 기술을 국내 최초로 상용화한 바 있다.

이를 위해 서버형과 랙(Rack)형 부하기를 자체 개발하고 B200 GPU와 NVL72 규격에 맞춰 냉각수 유량, 압력, 온도 등 조건을 실증해왔다. NVL72는 엔비디아가 개발한 고속 GPU 상호 연결 기술인 'NV링크'를 72개까지 확장한 것을 뜻한다.

AI 서버를 특수 액체에 직접 담가 열을 식히는 액침 냉각 기술의 실제 모형도 선보였다. KT클라우드는 기술검증(PoC)을 통해 실제 부하 테스트를 진행한 결과, 최대 60%의 전력 절감 효과를 확인했다고 설명했다.

아울러 AI 네트워크 전문기업 아리스타와 협력, 센터 내에 RoCEv2(RDMA over Converged Ethernet v2) 기반의 AI 전용 네트워크를 구축했다. 이 네트워크는 AI 서버 간 초고속 데이터 전송을 지원하는데, 기존 초고속 네트워크 방식인 인피니밴드(InfiniBand) 대비 비용 효율성과 확장성을 높인 차세대 이더넷 RDMA 기술을 적용한 것이 특징이다. RDMA는 서버 간 데이터 전송 시 CPU를 거치지 않고 메모리에서 직접 처리해 지연을 줄이고 속도를 높이는 기술을 뜻한다.

KT클라우드의 AI 이노베이션 센터에서 B200 GPU AI . KT클라우드 제공

KT클라우드가 자체 개발한 표준 랙 기반의 AI 전력 인프라도 소개됐다. 이 표준 랙은 20㎾ 이상의 AI 서버를 지원하는 고밀도 전력 공급 구조를 갖추고 있으며, 직류(DC) 48V 전원을 적용해 에너지 효율성과 안정성을 강화했다. 모듈형 설계를 통해 확장과 교체가 용이하며, 글로벌 OCP(Open Compute Project) 표준을 준수해 호환성을 갖췄다.

센터에서는 AI 기반 솔루션의 작동 모습도 함께 시연됐다. KT클라우드가 자체 개발해 특허 등록을 완료한 패스파인더는 디지털트윈 기반 시뮬레이션으로 자율형 전력 제어를 구현한다.

자율주행 로봇을 활용해 서버룸을 순찰하는 시연도 진행됐다. B200 GPU 기반의 AI 학습과 머신러닝 운영(MLOps) 환경을 체험하고 이해할 수 있는 공간도 마련됐다.

최지웅 KT클라우드 대표는 "AI 이노베이션 센터는 단순한 쇼룸이 아니라 차세대 데이터센터 기술을 실증하고 고객 가치 중심의 AI 인프라를 구현하기 위한 핵심 플랫폼"이라며 "KT클라우드는 데이터센터 기술 혁신의 새로운 기준을 제시하고 국내 AI 생태계의 성장을 선도할 것"이라고 말했다.

KT클라우드의 AI 이노베이션 센터. KT클라우드 제공

이 기사의 카테고리는 언론사의 분류를 따릅니다.