슈퍼마이크로, 엣지 컴퓨팅 환경에 고급 AI기능 구현

제공:슈퍼솔루션

슈퍼마이크로는 AI 솔루션 포트폴리오를 확장해 고객이 공공 장소, 소매점 또는 산업 인프라와 같은 엣지 위치에서 AI의 성능과 기능을 활용한다. NVIDIA GPU와 함께 슈퍼마이크로 애플리케이션 최적화 서버를 사용하면 사전 훈련된 모델을 더 쉽게 미세 조정하고 데이터가 생성되는 엣지에 AI 추론 솔루션을 배포하여 응답 시간과 의사 결정을 개선할 수 있다.

또한 고객의 엣지 환경을 위해 사전 훈련된 모델을 지원할 수 있는 가장 광범위한 엣지 AI 솔루션 포트폴리오를 보유하고 있다. 듀얼 5세대 Intel®Xeon® 프로세서를 기반으로 하는 슈퍼마이크로 Hyper-E 서버는 NVIDIA H100 Tensor Core GPU를 최대 3개까지 지원하여 엣지 AI에 탁월한 성능을 제공한다. 이 서버에 최대 8TB의 메모리를 탑재하여 데이터 센터 AI 처리 성능을 엣지 위치에 제공하고 있다.

이러한 서버 발전으로 인해 사용자는 더 이상 처리를 위해 데이터를 클라우드로 다시 보낼 필요가 없으며, 필요한 경우 엣지로 정보를 다시 검색하기만 하면 된다. 고객은 데이터 출처에 가까운 정확한 실시간 의사결정을 위해 데이터가 필요한 엣지 위치에서 성능에 최적화되고 NVIDIA AI Enterprise와 함께 사용할 수 있는 사전 훈련된 대규모 언어 모델(LLM)을 사용할 수 있다.

다양한 산업 분야의 기업들이 점점 더 엣지에서 AI를 활용하는 방안을 모색하고 있다. NVIDIA AI 플랫폼으로 구동되는 새로운 슈퍼마이크로 NVIDIA 인증 시스템은 최고 성능의 가속 컴퓨팅 인프라는 물론 엣지 AI 워크로드 실행을 돕는 NVIDIA AI Enterprise 소프트웨어를 제공하도록 구축됐다.

슈퍼마이크로의 Hyper-E 서버인 SYS-221HE는 엣지 트레이닝 및 추론에 최적화되어 있으며 짧은 깊이의 전면 I/O 시스템에서 듀얼 소켓 CPU를 지원한다. 이 시스템은 NVIDIA H100, A10, L40S, A40 및 A2 GPU를 포함하여 최대 3개의 이중 너비 NVIDIA Tensor Core GPU를 보유한다. 이러한 GPU는 슈퍼마이크로 Hyper-E에 데이터가 수집, 분석 및 저장되는 엣지 환경에서 AI 작업 부하를 처리할 수 있는 충분한 컴퓨팅 성능을 제공한다. 아울러 전면 또는 후면 서비스 옵션이 제공되므로 다양한 환경에 설치할 수 있다.

서버·스토리지 솔루션 전문기업 슈퍼솔루션 관계자는 “엣지 AI 솔루션은 고객들이 실시간으로 엣지에서 데이터를 처리해 비즈니스 효율성을 개선하고 운영 비용을 절약할 수 있도록 지원하며, 보다 향상된 고객 서비스 및 비즈니스 인텔리전스를 실시간으로 가능하게 하여 데이터 중심 사회 속 기업들의 비즈니스 성공을 도울 것”이라고 전했다.

구교현 기자 kyo@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]