 |
미스트랄 AI [사진: 셔터스톡] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
[디지털투데이 AI리포터] 전직 메타 및 구글 딥마인드 직원들이 설립한 AI 개발 기업 미스트랄AI(Mistral AI)가 코딩용 AI 모델 '코드스트랄 맘바'(Codestral Mamba)를 발표했다고 17일(현지시간) 온라인 매체 기가진이 전했다.
미스트랄AI는 지난 5월 첫 코딩용 생성형 AI 모델 코드스트랄(Codestral)을 출시했으나 상업적 이용이 금지돼 있었다. 반면 코드스트랄 맘바는 오픈소스 라이선스에 따라 출시되며 상업적 용도로 사용이 가능하다.
코드스트랄 맘바는 기존 모델에서 사용되는 트랜스포머 아키텍처가 아닌 '맘바 아키텍처'를 채택했다. 이 아키텍처는 시퀀스 길이에 대한 처리 시간이 선형적이어서 긴 시퀀스도 고속으로 처리할 수 있으며 시퀀스 길이에 제한이 없다는 특징을 갖췄다.
벤치마크 결과에 따르면, 코드스트랄 맘바는 70억개의 파라미터로 동급 모델 중 최상위 성능을 보였다. 220억개 파라미터의 코데스트랄 모델에는 전반적으로 성능이 떨어졌지만, 일부 지표에서는 앞섰다.
미스트랄AI는 코드스트랄 맘바의 문맥 내 검색 기능을 최대 25만6000개의 토큰까지 테스트하고 있다. 이 모델은 로컬에서 작동하는 코드 어시스턴트로서 뛰어난 성능을 발휘할 것으로 기대하고 있다. 코드스트랄 맘바 모델은 허깅페이스에서 다운로드할 수 있으며, 미스트랄의 공식 라이브러리인 미스트랄 인퍼런스에서 사용할 수 있다.
<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
