카카오-엔비디아와 맞손…"카나나 알파팀과 AI 모델 만든다"

엔비디아 GH200 카카오에 제공…"효율적 추론 돕는다"

23일 카카오AI캠퍼스에서 열린 'if(kakaoAI) 2024'(이프카카오 AI 2024)에서 타이 맥커처(Ty McKercher) 엔비디아 수석부사장이 발표하고 있다. 2024.10.23 손엄지 기자 ⓒ 뉴스1

(서울=뉴스1) 손엄지 기자 = 카카오(035720)가 인공지능(AI) 생태계 강화를 위해 엔비디아와 협력한다. 엔비디아는 카카오의 AI 모델 개발중심 조직 '카나나 알파'와 AI 모델을 만들고 있고, AI 서비스 중심 조직 '카나나 엑스'와는 인프라 협업을 논의 중이다.

타이 맥커처 엔비디아 수석부사장은 23일 카카오AI캠퍼스에서 열린 'if(kakaoAI) 2024'(이프카카오 AI 2024)에서 "카카오가 AI 회사로 전환할 수 있도록 지원하고 있다"며 이같이 말했다.

맥커쳐 부사장은 "카카오의 AI 모델, 생성, 서비스 통합 그리고 계속된 혁신을 지원하겠다"고 강조했다.

카카오는 AI 기술 개발에 NIM(엔비디아 추론 마이크로서비스)을 활용 중이다. NIM은 고정밀 가상 세계를 만드는데 도움을 주는 기술이다.

맥커처 부사장은 "최신 그래픽처리장치(GPU)인 GH200을 카카오에서 사용해 효율적으로 인퍼런스(추론)할 수 있도록 하고 있다"면서 "엔드투엔드(E2E·시작부터 끝까지 모든 과정을 포함)로 지원하고 있다"고 말했다.

이어 그는 "우리의 경험을 토대로 카카오가 AI 기술을 더 빠르게 도입할 수 있도록 할 것"이라면서 "협력을 통해 한국을 넘어 더 큰 AI 생태계를 생각하고 있다"고 덧붙였다.

eom@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.