"AI 구축방식 기업따라 천차만별 … AI 팩토리가 대안이죠"

"인공지능(AI) 구현 방식에서 모든 상황에 맞는 단일한 접근 방식은 없습니다."

초짜 농부가 농작물을 직접 키우는 데는 한계가 있다. 하지만 농작물을 키우는 데 필요한 모든 장비와 기술을 제공받는다면 스스로 농장을 운영할 수 있다. 델은 고객사가 직접 AI 비즈니스를 운영할 수 있도록 AI 팩토리(AI Factory)를 제공하고 있다.

김경진 한국 델 테크놀로지스 총괄사장(사진)은 최근 매일경제와 인터뷰하면서 AI 시장의 기회를 극대화하기 위해 델 테크놀로지스가 취하는 전략과 접근 방식을 이같이 설명했다. 델 테크놀로지스는 △ AI 작업에 필요한 대규모 데이터 처리 능력을 제공하는 '고성능 GPU(그래픽처리장치) 서버' △여러 컴퓨터 시스템을 연결하는 네트워크로 데이터 전송 속도를 높여 AI 처리 속도를 빠르게 해주는 '고속 AI 패브릭' △AI 연산에 필요한 데이터를 빠르게 저장하고 읽어 올 수 있는 저장장치인 '고속 AI 스토리지' △AI 알고리즘을 훈련하고 데이터를 분석하는 데 필요한 소프트웨어와 도구를 결합하는 데 주력하고 있다. 이를 통해 정보와 데이터를 지식으로 전환하는 것이 델 테크놀로지스의 구상이다.

김 총괄사장은 "이를 통해 이전에 없던 새로운 지식을 창출하고 이는 모든 것을 변화시킬 수 있는 원동력이 될 것"이라고 강조했다. 오늘날 델 테크놀로지스는 고객사들이 데이터 성능, 서비스 비용, 보안 등 모든 측면을 직접 제어할 수 있는 AI 팩토리를 구축할 수 있도록 지원하고 있다. 마치 농부가 농작물을 키우는 데 필요한 모든 장비와 기술을 제공받아 스스로 농장을 운영할 수 있게 되는 것처럼 델의 고객들도 데이터와 AI를 잘 관리할 수 있게 되는 셈이다.

델 테크놀로지스가 이처럼 AI 팩토리를 앞세우는 까닭은 따로 있다. 김 총괄사장은 "AI 구현 방식에서 모든 상황에 적합한 단일 접근 방식은 없다"고 설명했다. AI는 디바이스, 에지(edge·데이터를 중앙 데이터센터나 클라우드가 아닌 데이터가 생성되는 현장 근처에서 처리하는 방식), 데이터센터, 하이퍼스케일 클라우드(hyperscale cloud·대규모의 클라우드 컴퓨팅 환경) 등 다양한 방식으로 구현될 수 있어서다. 김 총괄사장은 "대규모언어모델에 대한 추론은 온프레미스(on-premise·소프트웨어나 하드웨어 등을 외부 클라우드 서비스가 아닌 회사 내부의 서버나 컴퓨터에 설치해 운영하는 방식) 데이터센터에서 수행하는 것이 효율적"이라면서 "온프레미스에 AI 인프라를 구축하는 것이 자체 데이터와 지식재산권을 안전하게 보호하는 방법"이라고 말했다.

실제로 전체 데이터의 83%는 온프레미스에 있으며 이 가운데 50%는 에지에서 생성된다는 점을 지적했다. 김 총괄사장은 "네트워크가 100% 연결되지 않은 환경에서도 에지 디바이스가 로컬에서 소형 트레이닝, 분석, AI 쿼리(질문) 등을 통해 실시간 추론 데이터를 제공할 수 있다"고 강조했다.

델 테크놀로지스의 'AI 팩토리'라는 개념은 젠슨 황 엔비디아 CEO가 처음 제시한 것으로 알려졌다. 델 테크놀로지스는 엔비디아와 협력해 가장 먼저 'AI 팩토리'라는 이름으로 비전을 제시했다. AI 팩토리는 말 그대로 'AI 공장'으로, 처음부터 AI를 고려해 구축되고 설계된 미래형 데이터센터를 가리킨다. 델 AI 팩토리는 AI 워크로드(AI workload·인공지능 시스템이 수행하는 작업이나 처리해야 할 일의 양)를 위한 제품과 서비스, 그리고 파트너사의 솔루션을 포괄하는 엔드투엔드 포트폴리오(end-to-end portfolio·시작부터 끝까지 모든 과정을 포함하는 전체적인 제품 및 서비스 모음)를 제공한다. 여기에는 AI 학습·추론을 구동하는 서버, 데이터를 저장하는 스토리지, 네트워크 장치, 델의 컨설팅 서비스, AI 구축 관련 서비스 등이 있다.

또 엔비디아, 인텔, AMD와 같은 파트너사의 다양한 프레임워크와 툴 등도 함께 포함된다. 이러한 포트폴리오는 클라우드, 온프레미스 데이터센터, AI PC, 에지 환경 모두에 적용될 수 있다는 것이 델의 설명이다. 델 테크놀로지스는 이러한 전략을 통해 AI 시장에서 입지를 강화하고 있으며 고객들에게 최적화된 AI 솔루션을 제공하기 위해 지속해서 노력하고 있다. 김 총괄사장은 "AI 팩토리를 통해 AI 도입에 소요되는 기간과 비용을 획기적으로 줄일 수 있다"고 설명했다.

이를 통해 고객사는 생산성을 극대화할 수 있다. 예를 들어 델 테크놀로지스의 AI 팩토리를 사용해 제품 수요를 예측하고 품질을 관리할 수 있는 'AI QC' 시스템이 대표적이다. 김 총괄사장은 "사업장에서 불량품을 검수하는 AI 시스템을 통해 생산성을 향상할 수 있다"면서 "고객사는 수십만 개의 사례를 판정하는 추론 엔진을 학습시켜 AI PC에 탑재할 수 있다"고 덧붙였다.

이러한 AI 전략은 델 테크놀로지스의 성장으로도 이어지고 있다. 델 테크놀로지스는 2025회계연도 1분기 동안 AI 최적화 서버(AI-optimized servers) 매출이 26억달러로 늘어났다고 밝혔다. 이 기간에 AI 최적화 서버 출하량은 이전 분기 대비 100% 이상 증가했다. 또 1분기가 마무리될 때 AI 최적화 서버 분야의 백로그(이미 주문받았지만 아직 완료되지 않은 작업이나 주문의 가치)는 38억달러에 달했다.

김 총괄사장은 한국 정보기술(IT) 1세대 창업가이기도 하다. 1990년대 초반 자본 없이 엔지니어 셋이서 창업을 시작했다. 이들은 대기업에 필요한 커뮤니케이션 네트워크 솔루션을 개발하기로 했다. 당시 IBM 3270 프로토콜을 이용해 지점 컴퓨터를 본사 컴퓨터에 연결하는 네트워크를 구축했다. 이 솔루션은 고가의 IBM 단말기 대신 비용을 5분의 1로 줄인 자체 개발 단말기를 사용해 성능을 유지하면서 비용을 절감했다.

[이상덕 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]