게임용 GPU로 구동하는 '특정 업무 전용' 모델 등장..."GPT-4o보다 빠르고 정확"

[박찬 기자]

인공지능(AI) 스타트업 파스티노(Fastino)가 특정 언어 작업에 최적화된 TLM(Task-Specific Language Models) 제품군을 출시했다. '업무 특화'라는 수식어에 걸맞게 특정 작업에서 만큼은 기존 범용 대형언어모델(LLM)에 비해 뛰어난 속도와 정확도를 제공하며 운영 비용은 크게 낮췄다고 강조했다.

미국 실리콘밸리 팔로알토에 본사를 둔 파스티노는 8일(현지시간) 특정 언어 작업을 수행하는 소형 모델 제품군 TLM을 출시했다.

이 모델은 엔터프라이즈 고객을 위해 요약 함수 호출 텍스트-JSON 변환 개인정보(PII) 제거 텍스트 분류 욕설 필터링 등 전문 언어 작업을 수행한다. 범용 모델처럼 광범위한 작업을 수행하는 대신, 기업 수요에 맞춰 특정 작업에 초점을 맞춘 것이다.

구체적인 매개변수는 밝히지 않았으나, 소형언어모델(sLM)로 구분했다. TLM은 트랜스포머 기반의 어텐션(attention) 메커니즘을 활용하지만, 사전 학습과 사후 학습 단계에서 작업 특화(task specialization) 단계를 도입한 새로운 아키텍처를 설계한 것이 핵심이라고 밝혔다.

이를 통해 컴팩트한 모델 설계, 실행 중 적응성 강화, 하드웨어 로컬 배포를 가능케 하면서도 높은 정확도를 유지한다는 것이다.

성능 향상도 기업 업무에는 필요 없는 불필요한 매개변수 제거와 구조 효율 최적화를 통해 달성됐다. 덕분에 기존 LLM이 지연 시간이나 비용 문제로 탑재되지 못했던 일부 애플리케이션에도 손쉽게 통합할 수 있다.

특히, TLM은 CPU나 일반 소비자용 GPU에서도 원활하게 구동되도록 설계됐다.

실제로 10만달러(약 1억4000만원) 이하의 비용으로 엔비디아의 게이밍 GPU만을 활용해 훈련했다고 밝혔다. 'H100'과 같은 고사양 GPU는 사용하지 않았다고 강조했다.

그 결과, 특정 작업에서 오픈AI의 'GPT-4o'보다 최대 99.67배 빠른 추론 속도와 17% 이상 더 높은 정확도를 기록했다.

애쉬 루이스 파스티노 공동 창립자 겸 CEO는 "우리 모델은 특정 작업에서 플래그십 모델보다 더 뛰어난 성능을 내며, 훈련 비용은 훨씬 적게 든다"라고 말했다.

API 비용도 파격적이다. 기존 AI API의 토큰당 과금 방식을 벗어나, 개발자가 월 정액 요금제로 모든 TLM API를 자유롭게 사용할 수 있도록 했다. 여기에 월 1만건까지 무료로 사용할 수 있는 업계 최초의 무료 모델 API도 도입해 개발자 진입 장벽을 낮췄다.

무료 API는 CPU 전용으로 작동한다. 또 기업은 TLM을 온프레미스나 엣지 환경에 배포할 수 있어, 민감한 데이터를 보호하면서 최신 AI 기술을 활용할 수 있다.

이처럼 일부 업무에만 초점을 맞춘 파스티노 모델이 기업용 AI 시장에서 돌풍을 일으킬 수 있을지는 더 지켜볼 필요가 있다.

하지만 투자자들의 관심을 끄는 데는 성공했다. 최근 코슬라 벤처스가 주도한 시드 라운드에서 1750만달러(약 240억원)를 유치했으며, 현재까지 총 투자금은 약 2500만달러(약 350억원)에 달한다. 앞서 지난해 11월 마이크로소프트(MS)의 VC 부문 M12, 인사이트 파트너스, 그리고 업계 리더인 스콧 존슨과 루카스 비왈드의 지원을 받아 700만달러의 프리-시드 투자를 받았다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>