 |
임정환 모티프테크놀로지스 대표 인터뷰 /사진=김창현 기자 chmt@ |
모티프테크놀로지스가 과학기술정보통신부의 '독자 AI 파운데이션 모델'(독파모) 추가 공모에 적극 참여하겠다고 20일 밝혔다.
모티프는 "지난해 7월 구성했던 컨소시엄 외에 추가 업체들과 논의를 진행하고 있다"며 "고성능의 LLM(대형언어모델)과 LMM(대형멀티모달모델) 모두를 파운데이션 모델로 개발한 국내 유일의 스타트업으로서 한국의 기술 독자성을 증명하기 위해 노력하겠다"고 말했다.
모티프테크놀로지스는 지난해 11월 공개한 LLM 'Motif 12.7B'의 모델 구축부터 데이터 학습까지 전 과정을 직접 수행했다. LLM의 '정석'처럼 여겨지는 기존 트랜스포머 구조를 그대로 쓰지 않고 '그룹별 차등 어텐션'(GDA) 기술을 자체 개발해 적용한 게 특징이다.
모티프는 "단순히 모델을 바닥부터 학습시키는 '프롬 스크래치(From Scratch)'를 넘어, 지능의 핵심인 어텐션 함수와 모델의 아키텍처 자체를 새롭게 설계한 것으로 독자성을 높게 평가받고 있다"고 강조했다.
Motif 12.7B는 매개변수 127억개로 작은 모델이지만, 글로벌 AI 모델 성능을 종합 평가하는 '아티피셜 애널리시스'의 인텔리전스지수(AAII)에서 프랑스의 '미스트랄 라지3'(매개변수 6750억개)보다 높은 점수를 받았다. 작은 규모로 고효율을 내는 '설계의 힘'을 입증했다는 평가다.
한편, 과학기술정보통신부는 지난 15일 독파모 1차 단계 평가 결과 네이버클라우드와 NC AI를 탈락시켰다. 2개팀이 탈락하는 이변이 발생하면서 과기정통부는 올 상반기 중 '재도전 프로젝트'를 진행해 1개 정예팀을 추가 선발할 예정이다. 추가 정예팀으로 선발시 LG AI연구원, 업스테이지, SK텔레콤과 2차 단계 성능평가를 진행한다.
윤지혜 기자 yoonjie@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
이 기사의 카테고리는 언론사의 분류를 따릅니다.