‘퀄컴 AI 허브’ 모바일 PC 확대…SW 생태계 강화

[디지털데일리 김문기 기자] 퀄컴이 모바일 시장에서 구현한 AI 허브를 PC 시장으로 확대한다.

퀄컴(대표 크리스티아노 아몬)은 마이크로소프트 빌드 2024에서 퀄컴 AI 허브가 스냅드래곤 X 시리즈 플랫폼을 확대 지원한다고 발표했다.

퀄컴은 개발자들은 제품 개발 기간을 단축하고, 차세대 윈도우 PC에서 온디바이스 생성형 AI의 이점을 활용할 수 있게 됐다고 설명했다. 또한 개발자들은 자체 개발한 AI 모델을 최적화해 기기 내에서 직접 실행할 수 있다. AI 모델을 온디바이스로 구동하는 것은 빠른 반응성을 비롯해 개인 정보 보안 강화, 신뢰성 향상, 한층 더 개인화된 사용자 경험 등 많은 장점이 있다.

두르가 말라디 퀄컴 테크날러지 수석 부사장 겸 기술 기획 및 엣지 솔루션 부문 본부장은 “퀄컴 AI 허브의 스냅드래곤 X 시리즈 플랫폼 확대 지원으로, 차세대 윈도우 PC를 위한 혁신적인 AI 애플리케이션 개발에 필요한 유연성과 역량을 개발자들에게 제공할 수 있게 되었다”면서 “퀄컴은 개발자들이 온디바이스 생성형 AI의 잠재력을 최대한 발휘하는 데 필요한 도구 및 리소스를 제공하기 위해 최선을 다하고 있다”고 말했다.

퀄컴 AI 허브는 개발자들에게 우수한 성능의 온디바이스 AI를 구현하는 데 필요한 리소스, 도구 및 서비스를 제공하는 게이트웨이로, 100개 이상의 사전 최적화된 AI 모델 라이브러리를 보유하고 있다. 이 라이브러리는 지속적으로 확장 중이며, 허깅페이스 및 깃허브에서도 사용 가능하다.

또한 개발자들은 퀄컴 AI 허브의 ‘자체 모델 불러오기(Bring Your Own Model, BYOM)’ 기능을 통해 자체 개발한 모델을 스냅드래곤과 퀄컴 플랫폼에 맞춰 업로드, 최적화, 편집할 수 있으며, 파이토치(PyTorch), 텐서플로우(TensorFlow), ONNX 등 모든 주요 프레임워크를 지원한다.

이와 더불어, 개발자들은 간단한 코드로 클라우드 호스팅 기기에서 5분 내에 모델을 테스트 및 검증할 수도 있다. 모델 최적화 및 검증 프로세스를 간소화해 시간과 노력을 줄일 수 있으며, 개발∙배포 주기를 단축해 개발 후속 진행 역시 빠르게 할 수 있다.

삼성 및 에이서, 에이스수, 델, HP, 레노버등의 글로벌 PC OEM은 스냅드래곤 X 엘리트 및/혹은 X 플러스 컴퓨팅 플랫폼을 탑재한 PC를 출시할 예정이다. 이를 통해 개발자들이 퀄컴 AI 허브로 차세대 디바이스에 뛰어난 경험을 구현할 수 있도록 지원한다는 계획이다.

한편, 스냅드래곤 X 시리즈 플랫폼은 광범위한 AI 개발 도구를 지원한다. ONNX 런타임(ONNX Runtime) 및 허깅페이스 옵티멈(Hugging Face Optimum)과의 긴밀한 연계와 라마(Llama.cpp) 지원 등으로, 개발자들은 이제 스냅드래곤 X 시리즈 플랫폼에서 수천 개의 모델을 실행하고 다양한 AI 기능을 탑재한 윈도우 애플리케이션을 구축할 수 있다. 또한 개발자들은 딥러닝 AI(DeepLearning.AI)와 퀄컴이 공동 제공하는 온라인 강의에서 온디바이스 AI 및 애플리케이션에서 이를 구현하는 방법을 배울 수 있다. 퀄컴의 월간 개발자 뉴스레터 구독을 통해 업데이트 내용을 확인할 수 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -