컨텐츠로 건너뛰기
검색
매일경제 언론사 이미지

"AI 모델에 딱 맞는 GPU…에이전트가 찾아주고 공급"

매일경제 고민서 기자(esms46@mk.co.kr)
원문보기

"AI 모델에 딱 맞는 GPU…에이전트가 찾아주고 공급"

속보
중국군, 오늘부터 대만 포위 전방위 훈련…무력 경고

"클라우드의 효율화와 비용 최적화는 국경이 없는 보편적인 과제다. 특히 인공지능(AI) 시대의 핵심은 단순한 비용 절감을 넘어 올바른 AI 모델에 맞는 그래픽처리장치(GPU) 자원을 적정한 가격과 위치에서 자동으로 확보하는 데 있다."

로랑 길 캐스트AI(Cast AI) 사장 겸 공동창업자는 최근 매일경제 인터뷰에서 AI 도입 가속화로 클라우드 사용료가 급증하는 상황을 짚으며 이같이 밝혔다. 그는 효율적인 자원 관리와 비용 최적화가 기업 경쟁력 확보의 핵심 과제임을 강조하며 "AI용 컴퓨터 칩 자원을 자동으로 찾아내 필요한 곳에 배분하는 기술을 통해 캐스트AI가 AI 시대의 게임체인저가 될 것"이라고 강조했다.

2019년 미국 플로리다주 마이애미에 설립된 캐스트AI는 애플리케이션 성능 자동화에 강점을 가진 기술 기업이다. 이 회사는 AI 기술을 활용해 사람이 직접 개입하거나 관리하지 않아도 클라우드 자원을 자동으로 관리하는 데 주력하고 있다.

특히 애플리케이션과 실행 환경을 함께 묶은 '컨테이너'를 자동으로 관리하는 '쿠버네티스' 환경에서 컴퓨팅 자원 사용 현황을 실시간으로 분석·최적화함으로써 필요 이상으로 자원을 넉넉하게 준비해두는 '과잉 프로비저닝'을 막아 기업의 클라우드 운영 비용을 절감할 수 있다는 설명이다.

캐스트AI에 따르면 현재 전 세계 2100여 곳 기업이 이 회사 솔루션을 통해 클라우드 관련 비용을 획기적으로 낮추고 있다.

길 사장은 "최근 자동차는 슈퍼 컴퓨터처럼 작동하고, 마치 연료나 전기처럼 클라우드는 필수적인 요소가 되고 있다"면서 "그렇기에 효율적인 클라우드 사용이 중요해졌다"고 말했다. 그러면서 "AI 서비스 운영에 필수적인 GPU 자원이 워낙 고가인 탓에 이를 효율적으로 관리하지 못하면 기업의 부담이 감당할 수 없을 만큼 커진다"고 지적하며, 이제는 AI를 잘 만드는 것만큼이나 비용을 획기적으로 줄이는 최적화 기술이 사업의 성패를 가르는 핵심이 됐다고 설명했다.


그는 "캐스트AI의 자동화 솔루션은 비용을 80% 이상 절감하고, 이에 더해 클라우드 최적화는 단순 비용 효율화를 넘어 주어진 자원을 최대한 활용하고 더 나은 성능을 확보하는 것까지 포함한다"고 강조했다.

문제는 전 세계적인 GPU 부족 현상이다. 길 사장은 "수요에 비해 공급이 부족하기 때문에 기업들은 자원 확보 자체에 어려움을 겪고 있다"고 진단하며, 이 부분에서 캐스트AI의 AI 에이전트가 중요한 역할을 할 수 있다고 밝혔다.

그는 "캐스트AI의 에이전트는 GPU가 어디에 있는지 파악하고 이를 필요한 곳에 매우 숙련된 방식으로 할당(프로비저닝)할 수 있다"면서 "이 에이전트는 구글 클라우드, 마이크로소프트 애저, 아마존웹서비스(AWS)는 물론 신흥 클라우드에서도 GPU를 확보할 수 있다"고 전했다.


예를 들어 일본 도쿄에 있는 특정 클라우드 제공업체가 최고 사양의 GPU를 수백 개 보유하고 있다는 사실을 아는 사람은 거의 없지만, 캐스트AI의 에이전트는 이를 이미 파악하고 필요로 하는 고객에게 자동으로 해당 GPU를 확보해 준다는 것이다.

이 지점에서 한국은 캐스트AI가 공들이는 핵심 거점이다. 길 사장은 클라우드 효율화가 전 세계적 과제임을 전제하면서도 "한국은 클라우드 사용에서 아시아 국가 중 가장 선도적인 나라"라며 한국 시장의 중요성을 강조했다. 특히 그는 한국을 캐스트AI의 향후 비전과 계획을 실현해 나갈 아시아 내 1순위 국가로 지목했다.

캐스트AI가 메타넷그룹과 손잡은 것도 이 같은 배경에서다.


양사 인연은 지난 9월 메타넷 그룹이 캐스트AI에 투자를 단행하면서 본격화됐다. 메타넷이 보유한 폭넓은 고객군과 멀티·하이브리드 클라우드 전문성, 캐스트AI의 글로벌 기술력을 결합해 아시아·태평양(APAC) 시장 전반으로 영향력을 확대한다는 계획이다.

길 사장은 "메타넷과 캐스트AI는 단순한 비용 절감을 위한 협력을 넘어 점점 더 어려워지는 GPU 자원 확보와 자동화 문제까지 함께 해결해 나갈 것"이라며 "내년에는 주요 항공사와 은행, 이커머스 기업까지 사업 영역을 확장할 예정으로, 이들 기업의 디지털 환경을 최적화함으로써 결국 소비자들도 일상에서 더 고도화된 서비스를 경험하게 될 것으로 기대한다"고 전했다.

[고민서 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]