[re:Invent2024] 업스테이지 “꼴찌일지언정 ‘프리미어 리거’가 되겠다”

[인터뷰] ‘AWS 리인벤트 2024’ 현장에서 만난 ‘업스테이지’

[디지털데일리 권하영기자] “한국 같은 비영어권 국가가 생성형 인공지능(AI) 기술로 글로벌 경쟁을 하는 건 정말 힘든 일입니다. 하지만 일단 살아남기만 한다면, 그래서 글로벌 시장의 단 0.1%라도 가져온다면, 한국 시장 그 어디보다 큰 매출을 내는 기업이 될 겁니다.”

아마존웹서비스(AWS)가 4일(현지시간) 미국 네바다주 라스베이거스의 베네시안 호텔에서 ‘AWS 리인벤트 2024(AWS re:Invnet 2024)’를 개최한 가운데, 한국 AI 스타트업 업스테이지를 공동 창업한 박은정 미국법인장 겸 최고제품책임자(CPO)와 이활석 최고기술책임자(CTO), 그리고 업스테이지 북미 사업을 이끌고 있는 노경실 미국사업총괄을 현장에서 만났다.

◆ ‘솔라 프로’ 출시…빅테크 제친 파인튜닝 성능

업스테이지는 자체 개발 거대언어모델(LLM) ‘솔라’를 서비스하고 있다. 물론 아마존과 마이크로소프트(MS), 구글, 메타 등 글로벌 빅테크들과 그들의 AI 파트너들이 주도하는 초대규모 파운데이션모델 같은 LLM은 아니지만, 그보다 파라미터 수가 적으면서 가성비가 좋은 소형언어모델(SLM) 시장을 타기팅했다.

특히, 단순히 모델 규모를 줄인 것에 그친 게 아니라 법률·금융·의료 등 특정 전문 분야 고객들을 위한 프라이빗LLM을 구축한다는 게 업스테이지의 승부수다.

최근 업스테이지는 ‘솔라 미니’에 이어 ‘솔라 프로’를 출시했다. 솔라 프로는 220억 파라미터 모델로 기존 솔라 미니(107억 파라미터) 대비 두배 이상 커지고 성능도 50% 이상 향상됐다.

박은정 CPO는 “솔라 프로는 내부 벤치마크상 싱글 GPU가 들어가는 AI 모델 중에서 한국어로는 최고 성능을 보이고 있으며, 특히 업스테이지가 집중하는 도메인인 법률·금융·헬스케어에서 압도적 성능을 내고 있다”고 강조했다.

실제 지난 9월 오픈소스로 공개한 ‘솔라 프로 프리뷰’ 버전은 허깅페이스 ‘오픈 LLM 리더보드’, 감성 지능을 평가하는 ‘EQ 벤치 리더보드’ 등 글로벌 표준 LLM 평가에서 우수 성능을 입증했다. 미국 파인튜닝 전문기업 프레디베이스 조사 결과, 빅테크 모델을 제치고 파인튜닝 성능 1위를 기록하기도 했다.

◆ 솔라 프로, 아마존 베드록 마켓플레이스 탑재

솔라 프로는 AWS 아마존 베드록 마켓플레이스, 아마존 세이지메이커 점프스타트, AWS 마켓플레이스 등 AWS 주요 플랫폼에 각각 탑재됐다. 아마존 베드록 마켓플레이스의 경우 AWS가 이날 리인벤트에서 처음으로 선보인 것이다. 기존 AWS 마켓플레이스는 AWS의 인증을 받은 솔루션과 서비스들이 등록돼 이를 필요로 하는 기업이 손쉽게 검색하고 구매할 수 있는 온라인 플랫폼인데, 이 같은 구조를 베드록으로 가져왔다. 쉽게 말해 AI 모델 전용 마켓이다.

업스테이지는 100개 이상 AI 모델들이 있는 아마존 베드록 마켓플레이스에 한국 AI 모델로는 엔씨소프트의 ‘바르코 LLM(13B 인스트럭트)’, LG AI 연구원의 ‘엑사원3(7.8B 인스트럭트)’와 함께 처음으로 등재됐다. 박 CPO는 “아마존 베드록 마켓플레이스에 올라간 것은 일종의 ‘신라면세점 입점’이 됐다고 비유할 수 있는데, 그만큼 LLM 업계에선 의미 있는 마켓플레이스에 등록됐다고 보면 된다”고 강조했다.

솔라 프로는 AWS의 완전관리형 머신러닝(ML) 서비스인 ‘아마존 세이지메이커’에서 훈련됐으며, 고급 데이터 전처리(학습에 사용되기 전 입력 데이터를 준비하고 정제하는 단계)와 지속적인 사전학습 기법을 통해 학습 시간을 크게 단축했다.

또한 업스테이지가 설립한 한국어 특화 LLM 연합인 ‘1조 토큰 클럽’의 데이터가 학습에 사용됐다. 텍스트, 책, 뉴스 기사, 보고서 등 저작권이 없는 영어와 한국어 학습 데이터로 구성된 이 데이터는 문화적 뉘앙스에 대한 솔라 프로의 이해도를 높이고 오답이나 부적절한 답변을 생성하는 AI 환각을 줄여 응답의 정확도를 높였다.

업스테이지는 지난 3월 AWS 마켓플레이스로 론칭한 솔라 미니에 이어 이번 솔라 프로 출시를 통해 글로벌 AI 시장을 적극 공략할 계획이다.

솔라 미니의 경우 이미 해외에서 좋은 반응을 얻고 있다는 전언이다. 노경실 미국사업총괄은 “많은 해외 기업이 솔라 미니를 오픈소스로 경험해보고 저희를 속속 찾아오고 있다”며 “AWS 마켓플레이스 등록 이후 10여건 넘는 공동 판매가 있었고, 솔라 미니를 통해 온디바이스 LLM을 하겠다고 밝힌 인텔 외에 포춘500 기업 중 한 곳도 솔라 미니로 인터넷 툴 서칭 기반 LLM을 만들었다”고 밝혔다. 이에 힘입어 솔라 미니2도 내년 중 나올 예정이다.

솔라 프로도 마찬가지다. 현재 인텔을 비롯해 포바이쿼라(Poe by Quora), 유닷컴(you.com), 센드버드(Sendbird) 등 수백곳의 글로벌 기업이 업스테이지와 파트너십을 맺고, 솔라 프로의 기능을 활용해 특정 산업의 요구사항과 과제에 맞춘 맞춤형 생성형 AI 솔루션을 개발하고 있다.

◆ 업스테이지, 글로벌 프라이빗 LLM 수요 공략

업스테이지의 글로벌 진출 전략은 초대형 LLM보다는 특정 도메인에 특화된 프라이빗 LLM 수요가 있는 엔터프라이즈 시장을 집중적으로 공략하는 것이다.

이활석 CTO는 “프라이빗 데이터로 특화된 시장이 분명히 있을 것이고 우리도 수요를 확신하기 때문에 비즈니스를 하고 있다”며 “AI가 정답이 있는 상황은 아니지만 특히 B2B(기업서비스) 시장은 실제로 고객이 만족하는 사례가 나온다면 시장이 흘러갈 것이고, 우리가 잘하는 분야에서 최대한 많은 결과를 만들어보고자 한다”고 언급했다. 이어 “한국을 포함해 해외에서 본격적으로 사업을 해보려고 하는데, 솔라 프로가 아마존 베드록 마켓플레이스에 올라가는 게 그 시작점이라 본다”고 덧붙였다.

가성비도 업스테이지의 강점이다. 노 총괄은 “우리는 일단 고객 유입이 가장 큰 목표기 때문에 동급 규모, 동일 성능 모델과 비교해 솔라는 5분의1 가격으로 시작했다”며 “가성비로 보면 대여섯배 경쟁력이 있는 것”이라고 말했다.

글로벌 진출에 있어 AWS는 핵심 파트너다. 업스테이지가 아직 해외 인지도가 없는 상황에서 마켓플레이스를 통해 AI 모델 수요가 있는 전세계 고객을 만날 수 있는 가장 효율적인 창구기 때문이다.

박 CPO는 “AWS를 포함해 우리가 폭넓은 역할을 수행하면서 어떤 것이 가장 좋은 고투마켓(Go to Market) 전략인지 찾아내보려 했다”며 “우리는 거인의 어깨에 올라타서 시장을 공략하는 게 가장 좋다고 판단했기 때문에 좀 더 파트너십 중심으로 무게가 옮겨가고 있다”고 말했다.

업스테이지는 이번 AWS 리인벤트 2024에서 솔라 LLM 외에도 차세대 광학문자인식(OCR) 모델 ‘도큐먼트 파스(Parse)’, 기업의 워크플로를 자동화하는 AI 솔루션 ‘솔라 박스’ 등 3가지 라인업을 중점적으로 소개하고 있다. 박 CPO는 “고객의 데이터를 올렸을 때 솔라 프로는 더욱 강력한 파괴력을 자랑한다”며 “솔라 프로, 도큐먼트 파스, 솔라박스까지 이어지는 라인업이 엔터프라이즈 시장에서 승산이 있다고 본다”고 피력했다.

이 CTO는 “생성형 AI 시장이 엄청나게 성장할 것이라는 건 아직도 대다수가 인정하는 사실”이라며 “프리미어 리그(유럽 축구 리그)를 예로 들면 2부리그에 머물기보다 꼴찌를 하더라도 1부리그에서 살아남겠다는 게 저희의 포부”라고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -