데이터센터의 3대 고민거리 "돈, AI, 사람"

업타임 인스티튜트(Uptime Institute)의 최근 설문조사에 따르면 2024년 데이터센터 책임자가 직면하게 될 가장 큰 문제는 비용 상승, AI 문제, 인력 부족이다. 오늘날 데이터센터팀은 높아지는 랙 전력 밀도와 용량에 대한 요구 사항, 자본 투자 및 인력 제한 사이에서 균형을 맞추기 위해 노력하고 있다.

ⓒ Getty Images Bank

업타임 인스티튜트의 제14회 연례 글로벌 데이터센터 설문조사에는 16개 업종에 걸쳐 전 세계 850곳 이상의 기업과 데이터센터 운영자를 포함한 응답자 1,631명의 인사이트가 담겼다. 업타임 인스티튜트 연구 담당 전무 앤디 로렌스에 따르면, 1순위 우려 사항으로 '비용'이 선택된 것은 몇 년 만에 처음이다.

설문조사 결과를 공유하는 웨비나에서 로렌스는 "데이터센터 구축 및 운영 비용은 오랫동안 지속적인 하락세를 보이다가 지난 몇 년 동안 상승했다. 인플레이션이 부분적인 원인이고 코로나19, 높은 에너지 가격, 인력 부족, 전반적으로 매우 높은 수요 등으로 인한 공급망 문제도 가격 상승에 영향을 미쳤다. 비용은 분명히 큰 문제"라고 말했다.

기업과 코로케이션 제공업체를 포함한 설문조사 응답자에게 '매우' 또는 '어느 정도' 우려하고 있는 문제를 물었다. 조사 결과, 에너지 가격 상승, 인플레이션, 데이터센터 서비스에 대한 수요 증가, 그리고 비용이 현재 데이터센터 운영자가 가장 관심을 두는 요소다.

• 비용 80%
• 자격을 갖춘 직원 부족 71%
• 시설 장비의 에너지 성능 개선 69%
• 향후 데이터센터 용량 요구 사항 예측 68%
• 훨씬 더 밀집된 IT 수용 65%
• IT의 에너지 성능 개선 64%

AI에 대한 엇갈린 결과

점점 더 많은 공급업체가 AI를 제품에 통합하고 있다. 데이터센터 운영에도 AI는 큰 도움이 된다. 하지만 AI에 대한 신뢰도는 줄어들고 있는 것으로 나타났다.

업타임 인스티튜트 조사 결과, 응답자 94%가 데이터센터 운영에 AI를 사용하는 것에 이점이 있다고 답했다. 운영 효율성을 높이고 기술 격차를 메울 기회가 된다는 점이 AI 도입을 이끄는 가장 큰 원동력이다. 응답자는 다음 측면에서 AI가 데이터센터 운영에 도움이 될 수 있다고 답했다.

• 시설 효율성 향상 58%
• 인적 오류 위험 감소 55%
• 직원 생산성 향상 45%
• IT 성능 향상 43%
• 장비 고장 또는 중단 위험 감소 42%
• 유지보수/서비스 비용 절감 37%

그러나 AI에 대한 신뢰도는 3년 연속 하락했다. 올해 설문조사 응답자 42%는 AI가 과거의 데이터로 적절히 학습됐다고 가정하더라도 데이터센터 운영과 관련한 의사 결정을 내리는 데 AI를 신뢰하지 않을 것이라고 답했다. 2022년 및 2023년 조사(각각 24%, 37%) 결과보다 소폭 증가한 수치다.

AI에 대한 과대광고에도 불구하고 오늘날 데이터센터에서 가장 고밀도로 지원되는 IT 워크로드는 주로 비즈니스 애플리케이션과 HPC(high-powered computing)이다. 데이터센터에서 가장 높은 밀도의 배포를 주도하는 워크로드는 다음과 같다.

• 비즈니스 애플리케이션을 위한 고집적 인프라 49%
• 가속기를 통한 고성능 컴퓨팅 33%
• 가속기가 없는 고성능 컴퓨팅 19%
• 생성형 AI 학습 15%
• 생성형 AI 추론 8%
• 생성형 AI 학습(생성형 제외) 5%

업타임에 따르면 AI 워크로드가 증가함에 따라 데이터센터 운영자는 향후 용량 요구 사항을 정확하게 예측하고 계획해야 하는 과제를 안고 있다.

업타임 인스티튜트 CTO 크리스 브라운은 "현재 업계가 고민하고 있는 백만 달러짜리 질문은 AI를 실제로 얼마나 많이 사용할 것인지, 설치 규모는 얼마나 커질 것인지, 설치 밀도는 얼마나 높아질 것인지다. 업타임 인스티튜트가 연구하고 명확히 하기 위해 노력하고 있지만 어려운 과제다. 데이터센터 운영자는 향후 몇 년 동안 이 문제를 해결하기 위해 고군분투할 것"이라고 언급했다.

인력 부족 현상 지속

인력 부족도 데이터센터 운영의 위험성을 지속적으로 높이고 있는 대표적인 문제다.

브라운은 "인력이 충분하지 않으면 데이터센터에 위험이 될 수 있다. 데이터센터 인력을 충분히 배치하지 못하면 기존 직원이 더 오래, 더 많은 시간 근무하게 된다. 즉, 실수할 가능성이 더 커진다는 의미다. 또한 데이터센터 운영자는 중앙 집중식으로 사이트를 관리하기 위해 원격 모니터링과 원격 제어를 더 많이 추가해 보유한 직원을 최대한 활용하고 있다. 이는 중요한 장비를 외부와 연결된 네트워크에 연결해야 하기 때문에 또 다른 공격 벡터를 만든다"라고 지적했다.

올해 보고서에서 기술 문제는 크게 악화하지 않았지만, 인력 부족으로 인한 기술 문제가 계속 누적되고 있다. 설문조사에 따르면 데이터센터 운영자는 몇 가지 중요한 영역에서 직원 간 기술 격차가 크게 벌어지고 있다고 답했다.

• 운영 주니어/중견급 직원 39%
• 전기 33%
• 운영 관리 32%
• 기계 30%
• 클라우드 아키텍처/개발 25%
• 고위 경영진/전략 20%
• 케이블/IT 16%
• 기타 6%

특히 인력 부족으로 인해 시설 전반에서 유지보수 역시 지연되는 것으로 나타났다. 브라운은 "기본적으로 인력 부족으로 인해 데이터센터의 모든 위험이 커지고 있다"라고 덧붙였다.
editor@itworld.co.kr

Denise Dubie editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지