[#Let's 스타트업] AI 속도 높이고 비용 줄이는 솔루션

김나율 대표

"어떤 디바이스에서든 손쉽게 인공지능(AI)을 제공할 수 있도록 돕습니다." AI를 제공하는 기업들의 공통된 고민거리는 비용이다. AI 모델을 개발하고 학습시키는 데에도 상당한 비용이 들지만 AI 서비스 운영에는 더 많은 돈이 투입돼야 하기 때문이다.

최근 매일경제신문과 만난 김나율 클리카 대표는 "AI 모델 사이즈를 최대 95% 압축시켜 AI 속도는 4~25배 빠르게, AI 운영 비용은 최대 80% 절감할 수 있는 솔루션을 제공한다"고 말했다. AI 경량화는 AI 모델 크기를 줄여 효율적으로 구동할 수 있도록 하는 기술이다. 최근 삼성전자의 갤럭시 S24 시리즈에 구현된 일부 기술도 삼성전자의 '가우스 AI'를 압축해 탑재한 AI 경량화의 예시다.

클리카는 2021년 3월 창업한 AI 경량화 기술 스타트업이다. 김 대표가 자율주행 기업 모빌아이 출신 벤 아사프 클리카 공동창업자 겸 최고기술책임자(CTO)와 함께 시작했다.

경량화 기술을 활용하면 제한된 하드웨어 환경에 맞게 AI 모델을 압축해 최적화할 수 있다는 장점이 있다. 김 대표는 "국내 한 통신사의 경우 클리카 솔루션을 사용해 50% 이상의 하드웨어 투자비를 절감했다"고 설명했다.

기업들이 AI 경량화 기술을 사용하는 배경이 단순히 비용 절감만은 아니다. 김 대표는 "AI가 솔루션이 아닌 제품이 되면서, 고객사들은 제품을 많은 사용자에게 더 빠르게 서비스할 수 있는 솔루션을 필요로 한다"고 말했다.

그는 이어 "멀티모달 모델 경량화를 자동화하는 것이 목표"라고 밝혔다.

[정호준 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]