인텔 가우디3, IBM 클라우드 통해 AI 가속기 첫 상용화

[석대건 기자]

인텔은 IBM 클라우드가 클라우드 서비스 제공사로는 처음으로 인텔 가우디3 AI 가속기 기반 상용서비스를 제공한다. [사진: 인텔]

[디지털투데이 석대건 기자] 인텔의 AI 가속기 가우디3가 IBM 클라우드에서 상용서비스를 클라우드 서비스 제공사 중 최초로 시작했다.

인텔은 IBM 클라우드가 인텔 가우디3 AI 가속기 기반 상용서비스를 제공한다고 8일 밝혔다.

IBM 클라우드 상용화는 가우디3의 첫 대규모 상업 배포로, 인텔에게는 AI 가속기 고객 확보를 통해 지난 3월 립부 탄 신임 CEO 선임 이후 반등 기회를 마련했다.

인텔 가우디3 AI 가속기는 개방형 개발 프레임워크를 지원하며 생성형 AI·대규모 모델 추론·파인튜닝 등에 대한 폭발적 수요를 충족하도록 설계됐다. 특히 멀티모달 LLM과 RAG 워크로드에 최적화됐다는 설명이다.

시그널65가 인텔 의뢰로 실시한 최신 AI 추론 벤치마크 테스트에 따르면, 가우디3은 메타의 Llama-3.1-405B-Instruct-FP8 모델 실행 시 경쟁 제품 대비 비용 효율성이 92% 높게 나타났다.

사틴더 세티 IBM 클라우드 인프라스트럭처 서비스 총괄은 "더 많은 데이터 처리 능력과 더 높은 성능 구현은 전 세계 고객의 AI 도입을 촉진할 것"이라며 "인텔 가우디3는 고객에게 AI의 하드웨어에 대한 더 많은 선택권과 더 많은 자유, 더 비용 효율적인 플랫폼을 제공해준다"고 말했다.

IBM 클라우드는 금융 서비스, 의료 및 생명 과학, 공공 부문 등 규제 산업에 종사하는 여러 기업 고객에게 서비스를 제공한다. 은행과 보험 회사는 사기 탐지나 맞춤형 고객 서비스를 위해 클라우드를 사용하고, 의료 서비스 기업은 신약 개발, AI 기반 진단, 원격 의료 플랫폼, 실시간 환자 모니터링에 클라우드를 활용한다. 유통 업체는 이커머스 플랫폼이나 재고 관리에 클라우드 기술을 도입하고 있다.

현재 가우디3은 독일 프랑크푸르트, 미국 워싱턴 D.C., 택사스 댈러스의 IBM 클라우드 리전에서 사용할 수 있다. 가우디3은 IBM의 광범위한 AI 인프라스트럭처 제품에도 통합되고 있다. 고객들은 현재 IBM VPC의 IBM 클라우드 가상 서버를 통해 가우디3을 사용할 수 있다.

올해 하반기부터 다양한 아키텍처에 배포할 수 있으며, 레드햇 오픈시프트와 IBM 왓슨엑스 AI 플랫폼 지원은 이번 분기 내 가능해질 예정이다.

사우라브 쿨카니 인텔 데이터센터 AI 전략 담당은 "인텔 가우디3 AI 가속기가 IBM 클라우드에 도입되며 기업 고객들에게 추론 및 파인 튜닝을 위해 최적화된 성능으로 생성형 AI 워크로드를 확장할 수 있도록 지원하게 됐다"며 "이번 협력은 전세계 기업이 AI를 더 쉽게, 비용효율적으로 구현할 수 있도록 지원하려는 양사의 공동 노력의 일환이다"라고 말했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>