정부, 첨단GPU 1만장 구매·구축 발주... 10월부터 AI인프라 서비스

[서울=뉴시스] 배훈식 기자 = 김범석 기획재정부 장관 직무대행이 8일 오전 서울 종로구 정부서울청사에서 경제관계장관회의를 하고 있다. 2025.05.08. /사진=배훈식

정부가 첨단 GPU(그래픽처리장치) 1만장을 연내 도입해 이르면 10월부터 산·학·연 등 AI(인공지능) 컴퓨팅 인프라 수요처를 대상으로 한 서비스를 제공한다.

과학기술정보통신부는 14일 오전 10시 서울 세종로 정부서울청사에서 김범석 기획재정부 장관 직무대행 주재로 열린 경제관계장관회의 겸 산업경쟁력 강화 관계장관회의에서 이같은 내용의 '첨단 GPU 확보 추진방안'을 발표했다. 'GPU 1만장' 확보 목표는 지난 달 28일부터 이달 5일까지 온라인 설문조사를 통해 산업계 115곳, 학계 273곳, 연구계 및 기타 17곳 등 405개 산학연 기관을 대상으로 한 GPU 수요를 통해 정해졌다.

지난해 12월 발표된 LG AI연구원의 '엑사원 3.5 32B' 모델을 개발하는 데에는 엔비디아 GPU H100 512장이 쓰였고 개발기간도 4개월이 걸렸다. 반면 메타의 '라마 3.1-405B' 모델은 H100 1만6384장을 투입해 54일만에 개발됐다. 국내 AI 컴퓨팅 인프라 부족으로 '더 작은' AI 개발에만 치중하거나 더 많은 시간을 소요할 수밖에 없는 상황이다.

이에 정부는 GPU 1만5000장이 투입될 민관 합작 국가AI컴퓨팅센터 구축과 슈퍼컴 6호기(GPU 8500장) 구축을 가속화하는 동시에 첨단 GPU 확보 추경예산 1조4600억원을 편성해 'GPU 연내 1만장 확보'를 추진하기로 했다. 조속히 GPU를 확보해 산학연 AI 컴퓨팅 수요에 부응하겠다는 것이다.

정부는 지난 1월 공고돼 이달 말 접수를 마무리하는 국가AI컴퓨팅센터 사업에 참여한 CSP(클라우드 인프라 사업자)에 위탁해 H200, B200 등 첨단·대규모 GPU를 신속히 확보한다는 계획이다. H200 6400장, B200 3600장으로 GPU 서버를 확충하고 통합운영 환경을 구축해 산학연에 제공하겠다는 것이다. 이달 중 '첨단·대규모 GPU 구매·구축 대행 클라우드 기업(CSP)' 공모를 개시해 내달 중 CSP 평가·심사를 거쳐 위탁 협약을 체결한다.

7월부터 CSP를 통한 GPU 구매가 개시되면 9월까지 CSP들이 기존에 운영 중인 데이터센터 인프라에 해당 GPU를 구축해 AI컴퓨팅 인프라 제공을 위한 준비를 진행한다. GPU 구축과 서비스 안정화 후 GPU 인프라를 산학연에 제공하는 것은 10월부터 순차적으로 개시된다.

해당 사업을 위탁받을 CSP는 데이터센터 운영비 등 충당 목적으로 이번 사업으로 조달한 GPU 중 일부를 자체 사업에 활용할 수도 있다. NIPA(정보통신산업진흥원)가 GPU의 소유권을 확보하고 국가AI컴퓨팅센터에 해당 GPU를 우선 사용한다.

이렇게 만들어진 첨단 GPU 기반 AI컴퓨팅 인프라는 국가AI컴퓨팅센터를 중심으로 국내 산학연 및 국가적 프로젝트에 배분된다. 국내 GPU 수요·용처에 근거한 맞춤형 GPU 지원방안 등 상시 지원체계도 마련될 예정이다. 시장 수요와 정책 우선순위, 실적·성과 등에 따라 GPU 지원 비중도 탄력적으로 조정된다.

산학연 등 GPU 사용 부담은 적정 수준에서 설정된다. 예컨대 학계·연구계에는 무상으로 제공하고 중소기업에는 10% 미만의 자부담을 요구하는 등 GPU 인프라 활용 기관의 특성에 따라 자부담 비율을 차등화하는 식이다. 기관 특성·규모별 자부담 기준은 9월 내로 마련한다는 게 정부의 방침이다.

황국상 기자 gshwang@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지