“GPU 효율 극대화했다” SKT, AI 클라우드 매니저 출시

AI 서비스 개발 모든 과정 관리 가능

자원, 접근 제어 및 보안 관리 등 요구 반영

대규모 GPU 최적화, AI 서비스 개발 구축

SKT 직원들이 ‘SKT 엔터프라이즈 AI 클라우드 매니저’ 솔루션을 테스트하고 있는 모습. [SK텔레콤 제공]

[헤럴드경제=고재우 기자] SK텔레콤은 인공지능(AI) 인프라 자원을 최적화하고, 개발 환경을 통합 관리할 수 있는 솔루션 ‘SKT 엔터프라이즈 AI 클라우드 매니저(AI 클라우드 매니저)’를 출시했다고 8일 밝혔다.

AI 클라우드 매니저는 SKT가 보유한 대규모 그래픽처리장치(GPU)자원에 대한 관리 및 운영 노하우를 상용화한 제품이다. 기업 고객이 보유한 수많은 GPU 자원을 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있다는 장점이 있다.

특히 대규모 데이터 학습에는 GPU 자원이 많이 소모되기 때문에, AI 자원 최적화는 AI 클라우드 솔루션에 필수다. 예를 들어 프로젝트마다 GPU 사용량 및 성능을 실시간으로 모니터링하고, 사용하지 않는 GPU를 감지해 다른 프로젝트에 재분배한다. 우선 순위가 높은 프로젝트에 클라우드 자원을 먼저 할당하기도 한다.

AI 클라우드 매니저 활용 시 AI 개발의 모든 과정을 체계적으로 관리할 수 있다. AI 서비스 개발은 ▷데이터 전 처리 및 저장·관리 ▷모델 개발·학습 ▷모델 배포 ▷모델 추론 등 단계를 거친다. AI 클라우드 매니저는 각 개발 과정에서 이용자가 활용하기 쉬운 기능을 제공하고, 모든 과정이 유기적으로 연계될 수 있도록 하는 ‘기계학습 운영(MLOps)’ 환경을 제공한다.

AI 모델 학습 과정에서는 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 병렬 학습 환경을 제공해 학습 속도를 높인다. 모델 추론 과정에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 이용자가 선택할 수 있도록 했다. 이에 따라 최고 성능, 최저 비용, 최소 GPU 사용 등 다양한 조합이 지원된다. 검색증강생성(RAG) 기술이 도입돼 과거 자료를 최신 정보처럼 인식해 제공하는, 환각 현상을 최소화하기도 한다.

SKT 직원들이 ‘SKT 엔터프라이즈 AI 클라우드 매니저’ 솔루션을 테스트하고 있는 모습. [SK텔레콤 제공]

이외에도 개발자들이 손쉽게 AI 서비스를 개발할 수 있는 다양한 편의 기능도 탑재됐다. 특정 소프트웨어를 설치할 필요 없이 ‘웹 브라우저(Web UI)’ 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 등 협업 환경도 마련됐다.

이와 관련 SKT는 지난 9월 하나금융티아이와 협업해 대규모 GPU 클러스터를 구축한 바 있다. 해당 프로젝트에서 하나금융티아이는 ‘AI 클라우드 매니저’를 통해 하나금융그룹의 AI 기술 수요에 대응할 수 있는 환경을 구축했다.

김명국 SKT Cloud CO 담당은 “AI 클라우드 매니저 출시로 기업들이 GPU 자원의 성능을 극대화하고, AI 서비스를 효과적으로 개발할 수 있게 됐다”며 “향후 AI 데이터센터와 GPU 서버를 안정적으로 공급하고, 이를 관리하는 필수 솔루션도 함께 제공해 AI 데이터센터 솔루션 사업 분야를 선도해 나갈 것”이라고 말했다.

ko@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.