마음AI, 구축형 LLM 'MAAL' 업그레이드... "구축형 LLM 중 최고"

AI(인공지능) 전문기업 마음AI는 약 3주만에 이 회사의 주력 온프레미스(구축형) LLM(거대언어모델) 제품인 'MAAL'(말)을 기존 Llama3(라마3) 기반에서 Llama3.1(라마3.1) 기반으로 업그레이드했다. 마음AI는 "이번 고도화로 MAAL은 현존 온프레미스 LLM 중 최고 수준의 성능을 갖추게 됐다"고 설명했다.

마음AI는 "마음AI의 MAAL은 한국어 언어모델의 다분야 사고력을 측정하는 LogicKor 평가에서 높은 점수(7.23점)를 기록하며, 오픈소스 기반 모델이 공통적으로 겪는 '한국어 능력이 크게 떨어지는' 문제를 극복했다"고 했다.

Llama 3.1 모델도 이전 Llama 3 기반 모델에 비해 성능이 크게 개선됐지만 여전히 한국어 처리 능력에서 부족한 점이 있다. 이에 마음AI는 CoIT(Conversion of Intelligence Technique) 기법을 적용해 기존 모델의 우수한 영어 능력을 한국어로 치환함으로써, 한국어에서도 탁월한 성능을 발휘하도록 만들었다고 설명했다.

마음AI에 따르면 이번 모델 성능으로 고객사는 더 체계적 답변을 받을 수 있게 됐다. 예컨대 '원격 근무가 대중화됨에 따라 발생하는 사회적 변화가 무엇이 있는지 설명해달라'라는 요청에 대해, 기존 모델은 단순히 다양한 변화를 나열하며 응답하지만 최신 모델은 이 변화들을 긍정적인 측면과 부정적인 측면으로 나눠 답하며 더욱 심층적인 결과를 제공할 수 있다는 것이다.

마음AI는 "특히 '가드레일(안전하고 의도된 방향의 답변을 제공하기 위해 사전에 설정된 제약 조건)' 등 기업 내에서 중요하게 사용되는 테스크에 대해서도 챗GPT 4 옴니(ChatGPT 4 Omni) 못지않은 최상급 성능을 보였다"며 "이러한 성능 향상은 사내 LLM 활용도를 높임으로써 온프레미스 LLM 시장 규모가 실질적으로 크게 확대되는 데 기여할 것"이라고 내다봤다.

이번 마음AI의 모델 업그레이드는 Llama 3.1 오픈소스 모델이 공개된 지 불과 약 3주 만에 완료됐다. 마음AI는 자사의 학습 최적화 기술을 활용해 신속하게 제품화에 성공했고 기존 고객사 제품도 빠르게 최신 모델로 업그레이드했다고 강조했다.

최홍섭 마음AI 기술 대표는 "앞으로도 최고 수준의 오픈소스 모델이 출시될 때마다 신속하게 학습을 완료하고, 기존 고객 대상 업데이트를 지원하여 지속적인 최첨단 서비스를 제공하겠다"고 밝혔다.

황국상 기자 gshwang@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지