카카오, ‘카나나-2’ 업데이트…MoE 기반 모델 4종 오픈소스 추가 공개

카카오가 자체 개발한 차세대 언어모델 ‘카나나-2(Kanana-2)’를 업데이트하고, 성능을 개선한 모델 4종을 오픈소스로 추가 공개했다. 카카오 제공

카카오가 자체 개발한 차세대 언어모델 ‘카나나-2’를 업데이트하고, 성능을 개선한 모델 4종을 오픈소스로 추가 공개했다고 20일 밝혔다.

카나나-2는 전문가 혼합 아키텍처를 적용해 연산 효율을 크게 높여 2025년 12월 오픈소스 생성 플랫폼 허깅페이스에 공개한 언어모델이다. 전체 파라미터는 320억개(32B) 규모지만, 실제 추론 시에는 상황에 맞는 약 30억개(3B)만 활성화하는 방식이다. 이를 통해 최신 초고가 장비가 아닌 엔비디아 A100급 범용 GPU 환경에서도 원활히 구동되도록 최적화했다.

카카오는 학습 구조도 세분화했다. 사전 학습과 사후 학습 사이에 ‘미드 트레이닝’ 단계를 신설하고, 새로운 정보를 학습할 때 기존 지식을 잃는 ‘치명적 망각’을 줄이기 위해 리플레이 기법을 도입했다. 이로써 한국어 능력과 일반 상식 추론을 유지하면서도 새로운 추론 역량을 안정적으로 확장했다는 설명이다.

카카오가 이번에 공개한 모델은 △기본(Base) △지시 이행(Instruct) △추론 특화(Thinking) △미드 트레이닝(Mid-training) 등 4종이다. 연구 목적 활용도가 높은 중간 단계 모델까지 함께 공개해 오픈소스 생태계 기여도를 높였다.

카나나-2는 단순 대화형을 넘어 에이전트 인공지능(AI) 구현에 초점을 맞췄다. 멀티턴 도구 호출 데이터를 집중 학습해 복잡한 지시를 이해하고 필요한 도구를 스스로 선택·호출하는 능력을 강화했다.

카카오 관계자는 “내부 평가에서 동급 경쟁 모델 대비 지시 이행 정확도와 도구 호출 성능, 한국어 처리 능력에서 우위를 보였다”고 밝혔다.

카카오는 현재 MoE 구조 기반의 초대형 모델 ‘카나나-2-155b-a17b’도 학습 중이다. 이 모델은 수천억 파라미터급으로, 중국 AI 스타트업 지푸AI의 ‘GLM-4.5-Air-Base’와 유사한 수준의 벤치마크 성능을 기록한 것으로 전해졌다. 데이터 사용량은 상대적으로 적었지만, 한국어 질의응답과 수학 영역에서는 우수한 성과를 냈다는 설명이다.

김병학 카카오 카나나 성과리더는 “보편적인 인프라 환경에서도 고효율을 내는 모델을 오픈소스로 공개해 국내 AI 연구 개발 생태계 발전과 기업들의 AI 도입의 새로운 대안이 될 수 있기를 기대한다”고 말했다.