MS, AI PC에 탑재할 딥시크 'R1' 온디바이스 모델 개발

[박찬 기자]

(사진=셔터스톡)

마이크로소프트(MS)가 애저 AI 파운드리와 깃허브에 '딥시크-R1' 모델을 추가한 데 이어, 코파일럿+ PC에서 R1을 로컬로 실행할 수 있도록 지원할 예정이다.

MS는 30일(현지시간) AI PC에서 최적화된 R1 버전을 출시할 계획이라고 발표했다.

이 모델은 퀄컴의 '스냅드래곤 X 프로세서'를 시작으로, 인텔 '코어 울트라 200V' 등 다양한 프로세서에서 제공될 예정이다. 첫번째 버전은 '딥시크-R1-증류-큐원-1.5B(DeepSeek-R1-Distill-Qwen-1.5B)'이며, 7B와 14B 모델도 곧 출시할 예정다.

코파일럿+ PC의 신경 처리 장치(NPU)는 AI가 필요할 때만 실행되는 것이 아니라, 지속적으로 동작하는 AI 서비스를 가능하게 한다. 이를 통해 개발자는 자동화된 기능을 만들 수 있다.

MS는 '파이 실리카(Phi Silica)'라는 프로젝트를 통해 빠른 AI 처리 속도와 낮은 전력 소비를 동시에 만족시키는 기술을 개발했다.

이를 바탕으로 NPU에 최적화된 딥시크 모델을 제작했으며, 특히 모델을 효율적으로 배분하는 '전문가 혼합(MoE)' 방식과 저비트 양자화, NPU에 최적화된 트랜스포머 구조 등을 통해 성능과 효율성을 극대화했다. 또, 윈도우 코파일럿 런타임(WCR)과 ONNX QDQ 형식을 활용해 다양한 기기에서 원활하게 실행될 수 있도록 설계했다.

딥시크 모델을 코파일럿+ PC에서 사용하려면 AI 툴킷 VS 코드 확장 프로그램을 다운로드해야 한다. AI 툴킷은 모델 실험과 배포 준비를 위한 개발 워크플로의 일부로, 애저 AI 파운드리에서 사용할 수 있는 딥시크 모델을 로컬 배포용으로 간편하게 테스트할 수 있도록 해준다.

하지만 이번 모델 개발은 일반 소비자보다는 개발자와 프로그래머를 겨냥한 것에 가깝다. MS는 개발자들이 AI 기능을 활용한 앱을 만들도록 유도하려는 것으로 보인다.

시장 조사에 따르면, 많은 사람들이 AI PC의 필요성을 크게 느끼지 못하고 있으며, AI PC를 구매하는 이유도 다른 선택지가 없기 때문인 경우가 많다.

MS는 이런 상황을 바꾸기 위해 개발자들이 AI 기능을 활용할 수 있도록 딥시크를 제공하는 것일 가능성이 높다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>