엔비디아 저가칩 2천개로 2개월만에 V3 개발한 딥시크
AMD칩 600개로 1개월만에 자체LLM 개발한 모레
AI 반도체 다양성 제도 도입한 인도…SW인프라 중요해져
딥시크, AI 모델 개발의 혁신적인 접근
딥시크는 AI 모델 개발에 대한 인식을 완전히 바꿨다. 기존에는 AI 모델 개발에 거대 기업들이 막대한 자원을 투자해야 한다고 여겨졌지만, 딥시크는 이를 깨뜨렸다. 딥시크 V3는 6720억 개의 파라미터를 가진 초거대 모델로, GPT-3의 3배 크기에도 학습 비용은 600만 달러(87억원)에 불과하다.
비결은 MOE(Mixture of Experts) 모델 설계, SW 최적화를 통한 GPU 클러스터 운영, 고성능 모델의 효율적인 증류(Distillation)에 있다. MOE는 일부 전문가 네트워크만 활성화해 계산 효율성을 높인 것이고, GPU 클러스터 최적화로 모델 학습을 효율화하며, 대형 모델을 소형 모델로 증류해 비용 절감과 최적화를 이뤄냈다.
 |
[이데일리 이영훈 기자] AI데이터센터 솔루션 기업 모레 조강원 대표 인터뷰 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
모레, AI 인프라 SW 최적화
한국의 AI 기업 모레는 AI 인프라 SW 기술의 최전선에서 주목받고 있다. 서울대 매니코어 연구실 출신의 연구진들이 설립한 모레는 대규모 GPU 클러스터 운영 소프트웨어 개발에 집중해왔다. 모레의 GPU 클러스터 SW 최적화 기술은 AMD, 텐스토렌트(Tenstorrent) 등 다양한 GPU/NPU를 활용해 AI 모델을 효율적이고 저렴하게 구현할 수 있게 지원한다.
모레의 AI 모델 연구는 최근 더 큰 주목을 받고 있다. 딥시크 V3가 2000개의 엔비디아 H100 GPU로 2개월 만에 개발된 반면, 모레는 600개의 AMD MI250 GPU로 1개월 만에 1020억 개 파라미터를 가진 자체 LLM(Motif LLM)을 완성했다. 이는 7분의 1 규모의 GPU 리소스를 사용해 7배 빠른 개발 속도를 보여준 것으로, 모레의 GPU 클러스터 SW 최적화 역량을 입증하는 사례다.
모레의 성공은 AI 경쟁력의 핵심이 소프트웨어 최적화 기술에 있다는 점을 명확히 한다. 반도체 성능만으로는 충분하지 않으며, 효율적인 소프트웨어 운영이 필수적이다.
조강원 모레 사장은 지난 6일 과학기술정보통신부 주최 ‘AI산업 경쟁력 점검 회의’에서 “AI 인프라는 단순히 반도체를 배치한다고 해서 끝나는 것이 아니다. 효율적인 조직화와 소프트웨어 기술이 AI 모델의 성패를 좌우한다”고 강조했다. 그는 “한국의 AI 산업이 글로벌 경쟁력을 갖추기 위해서는 소프트웨어 기술을 키우는 것이 중요하다”고 했다.
AI 반도체 다양성 제도 도입한 인도…SW인프라 중요해져
조 사장은 인도의 AI 반도체 다양성 제도가 중요한 시사점을 제공한다고도 했다. 인도는 AI 데이터센터 구축 시 반도체 다양성을 100점 만점에서 30점을 할당해 최소 5종 이상의 반도체를 사용해야 최고 점수를 받을 수 있도록 제도화했다. 이는 다양한 반도체를 효과적으로 활용하는 소프트웨어 인프라의 중요성을 보여준다.
조 사장은 “한국도 AI 반도체의 다양성과 소프트웨어 최적화 기술을 결합하여 경쟁력을 강화해야 한다”고 말하며, 한국이 향후 소버린 AI 역량을 갖추는 중요한 전환점을 맞이할 것이라고 예고했다.
중국의 딥시크와 한국의 모레는 하드웨어에 의존하지 않고 효율적인 소프트웨어 최적화로 AI 모델 개발을 혁신하고 있다. 이들의 사례는 한국 AI 산업이 소프트웨어 기술에 집중하고 글로벌 경쟁력을 확보할 수 있는 중요한 가능성을 제공한다.
AI 경쟁력의 핵심은 반도체뿐 아니라 효율적인 소프트웨어와 GPU 클러스터 운영 기술에 있으며, 한국의 AI 기업들이 이 방향으로 나갈 때 AI강국으로서 입지를 다질 수 있을 것으로 보인다.
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
