추론 스타트업 인퍼랙트, 1억5000만달러 투자 유치...vLLM 상용화 가속

[황치규 기자]

[디지털투데이 황치규 기자]AI 추론 최적화 오픈소스 프로젝트 'vLLM' 개발팀이 벤처캐피털 지원을 받아 스타트업 인퍼랙트(Inferact)로 변신했다.

인퍼랙트는 최근 1억5000만달러 규모 시드 투자를 유치하며 기업가치를 8억달러로 평가받았다고 테크크런치가 22일(현지시간) 보도했다.

이번 투자 라운드는 앤드리슨 호로위츠(a16z)와 라이트스피드 벤처 파트너스가 공동 주도했다. 인퍼랙트 행보는 최근 상용화된 SG 랭( SGLang) 프로젝트와 유사하다. SG 랭은 최근 VC 악셀 주도 아래 4억달러 기업가치로 투자를 받았다.

AI 업계 무게중심이 모델 학습에서 실제 애플리케이션 배포,이른바 추론으로 넘어가면서 vLLM과 SG 랭 같은 기술이 투자자들 주목을 받고 있다고 테크크런치는 전했다.

인퍼랙트 CEO 사이먼 모(Simon Mo)는 블룸버그와 인터뷰에서 "아마존웹서비스와 쇼핑 앱 등이 vLLM을 사용하고 있다"고 말했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>