[르포]'품귀' 엔비디아 컴퓨터 1000개 쥔 NHN클라우드 "한국 AI 개발사들 모여라"

NHN클라우드 위탁운영 광주 '국가 AI 데이터센터' 가보니
GPU 국내 최다 보유... AI 서버 위한 최적 설계로 안정성 갖춰

광주 오룡동 국가 인공지능(AI) 데이터센터 내부 전산실 모습. 엔비디아의 'H100'을 비롯한 그래픽처리장치(GPU)를 활용한 슈퍼컴퓨터가 설치돼 있다. NHN 제공

21일 광주광역시 북구 오룡동 첨단3지구 '국가 인공지능(AI) 데이터센터'. 전산실 복도에 들어서자 엔비디아의 최첨단 그래픽처리장치(GPU) 모듈 'H100'을 장착한 고속 컴퓨팅 기기들이 굉음을 쏟아냈다. 온몸을 써서 데이터 처리를 하며 뿜어내는 열기를 식히기 위해 바깥에서 들인 찬 공기가 끊임없이 쏟아져 나왔다.

NHN클라우드가 과학기술정보통신부와 광주시의 위탁을 받아 운영하는 국가 AI 데이터센터는 기업과 대학, 연구소에서 AI 학습을 활용한 연구·개발을 진행할 수 있도록 클라우드 형태로 AI 서버를 제공한다. 2개로 나뉜 전산실에는 AI 개발의 필수 요소가 된 엔비디아와 그래프코어의 GPU로 설계된 가속 컴퓨팅 기기가 설치돼 돌아가고 있었다. 올해 한국 AI반도체 전문 기업 사피온의 연산 특화 반도체 'X330'도 들여온다.

품귀 현상 겪는 'H100' 국내 최다 확보

정부와 광주광역시 위탁으로 NHN클라우드가 운영하고 있는 국가 AI 데이터센터 외부 모습. NHN 제공

현재 국가 AI 데이터센터의 총 연산 능력은 88.5페타플롭스(PF·1PF는 1초당 수학 연산 1,000조 회가 가능함을 뜻함)로 일반 업무용 노트북 50만 대가 1초에 처리하는 연산 처리량과 맞먹는다. 이를 바탕으로 짧은 시간 내 방대한 데이터의 딥러닝 학습, 데이터 분석 및 활용, AI 서비스 및 제품을 개발하는 데 필요한 개발 도구를 통합 지원하고 있다.

NHN클라우드 측은 특히 엔비디아의 최신 GPU인 H100을 한국에서 가장 많이 갖췄다고 설명했다. H100은 현재 전 세계적 AI 개발 경쟁 속에 품귀 현상을 겪고 있다. 엔비디아가 정확한 가격을 공개하지 않지만 미국의 투자은행(IB) 레이먼드제임스는 H100의 가격을 개당 2만5,000달러(약 3,353만 원)~3만 달러(약 4,024만 원)로 추정한다. 대만 시장조사업체 트렌드포스에 따르면 주문 병목 현상 때문에 한때 새 H100을 받으려면 8∼11개월까지 기다려야 했지만 현재는 일부 기업의 재판매로 3, 4개월 정도로 줄었다.

김동훈 NHN클라우드 대표는 이날 광주에서 열린 기자간담회에서 "NHN클라우드가 보유한 H100은 1,000개 이상으로 세계적으로는 아니지만 한국 내에서는 가장 많은 양"이라면서 "경쟁 회사들도 우리 제품을 쓰려 할 정도로 사업상 얻는 게 많다"고 했다. 독자적으로 AI 개발을 진행 중인 국내 일부 기업들도 NHN 클라우드에 기기를 재판매할 의사가 없는지 문의한 것으로 알려졌다.

"AI 인프라 역량 쌓아 '풀 스택 AI 기업' 진화가 목표"

김동훈 NHN클라우드 대표가 21일 광주에서 열린 'NHN 클라우드 2.0 전략 발표 기자간담회'에서 발표하고 있다. NHN 제공

광주의 국가 AI 데이터센터는 H100과 같은 GPU 서버를 안정적으로 가동할 수 있게 전력 공급망과 냉각 시스템을 효율적으로 마련했다. 모든 것이 'AI 맞춤형'이다. AI 개발 스타트업 업스테이지는 "NHN클라우드는 변동성이 적고 안정적이어서 새로운 환경과 라이브러리를 실험하는 데 매우 쓸모 있다"고 전했다.

현재 국가 AI 데이터센터의 가동률은 사실상 100%. 일정 기간을 신청해 이용한 후 반납하는 방식이다. 현재는 서버 임차 예산도 정부가 대고 있기 때문에 AI 장비를 구하지 못한 개발사들이 저렴하게 때로는 무상에 가까운 비용으로 이용 중이다. NHN클라우드는 AI 데이터센터를 통한 본격 매출은 2025년부터 날 것으로 내다보고 있다.

NHN클라우드는 이날 'NHN클라우드 2.0' 전략을 공개하고 AI 전용 데이터센터 운영 경험을 바탕으로 AI 인프라와 개발 서비스를 결합한 '풀 스택 AI 클라우드 서비스 제공사(CSP)'로 진화하겠다고 밝혔다. 김동훈 대표는 "강력한 AI 데이터센터를 중심으로 AI 2.0시대에 적극 대응하며 AI 인프라 시장을 이끌어 갈 것"이라 말했다.

광주= 인현우 기자 inhyw@hankookilbo.com