마음AI, CES에서 퀄컴과 온디바이스AI 협력 성과 최초 공개

SUDA로 홈 IoT 제어 시연 공개

마음AI가 1월 7~10일 미국 라스베이거스에서 열리는 CES 2025에서 퀄컴 테크날러지스와 온디바이스 AI 협력 성과를 공개한다. [마음AI]

물리적 환경과 상호작용하며 학습하는 임보디드AI(인공지능)에 집중하는 마음 AI가 오는 1월 7~10일 미국 라스베이거스에서 열리는 CES 2025에서 퀄컴 테크날러지스와의 온디바이스 AI 협력 성과를 공개한다.

이번 전시회에 단독 부스로 참여하는 마음AI는 메인 전시로 LLM(거대언어모델) 기반 음성 대화 제품인 ‘SUDA’를 내세운다.

SUDA는 퀄컴 QCS6490 프로세서 기반의 퀄컴 RB3 2세대 플랫폼을 탑재해 음성 대화를 위한 STT(음성인식), LLM, TTS(문자인식)를 지원하며 인터넷 연결 없이 디바이스 상에서 음성 대화가 가능하게 만든 것이 특징이다. 퀄컴의 QCS6490 프로세서는 스마트홈, 운송, 창고 관리, POS 키오스크, 커넥티드 헬스케어, 물류 관리 등 산업용 IoT 애플리케이션에 최적화된 플랫폼이다. 마음AI는 퀄컴과의 협업을 통해 이 프로세서에 STT, LLM, TTS를 탑재하는데 성공했다.

퀄컴과의 협업을 통해 마음AI는 온디바이스 LLM으로 원활한 음성 상호작용 서비스를 구현할 수 있다고 밝혔다. 온디바이스 상에서 총처리 지연시간을 1.5초 이내로 단축해 일반적인 AI 스피커나 가전제품에 탑재된 음성 대화 모듈들에 비해 사용자 경험을 향상시킬 수 있다.

마음AI는 CES 현장에서 온디바이스 AI ‘SUDA’를 기반으로 홈 IoT 를 제어하는 시연을 공개한다. 예를 들어, “너무 눈부신데”라고 말하면, LLM 이 사용자의 의도를 파악하고 블라인드를 내리도록 명령을 내리는 것이다.

마음AI는 홈 IoT 환경에서 여러 센서나 가전제품 등을 제어하는 에이전트 기능을 구현하기 위해 LLM 에 호출(Function Call) 기능을 구현했다. 이를 통해 사용자는 API(애플리케이션 프로그래밍 인터페이스·서로 다른 소프트웨어나 서비스를 연결해주는 연결다리)로 호출 가능한 모든 센서와 가전제품 등 홈 IoT 제품들을 자연어로 쉽게 제어할 수 있다.

최홍섭 마음AI 기술총괄 대표는 “퀄컴의 RB3 2세대 플랫폼에 당사의 기술을 탑재할 수 있는 협업 기회를 얻게 되어 기쁘다”며 “앞으로도 퀄컴 테크날러지스와 긴밀한 협력을 통해 온디바이스 AI 시장을 선도할 수 있을 것이라 기대한다”라고 밝혔다.

마음AI는 이 외에도 이번 CES 2025에서 대한민국 정부 고용노동부와 구축한 근로감독관 AI 지원 시스템과 Vision Language Action Model ‘WoRV’를 적용한 농업 로봇 자율주행 등 다양한 상용화 사례를 소개하며 임보디드 AI(EAI) 선도기업으로 입지를 다질 예정이다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]