“돈 한 푼 안 내는 사람 너무 많다”...서버 비용만 300조 태우는 오픈AI ‘고심’

서버 효율, 가격 인상에
컴퓨트 마진 70% 돌파
추론 비용 절감 총력전

샘 올트먼. [AP연합뉴스]

오픈AI가 막대한 인프라 투자 비용에 대한 우려 속에서도 유료 서비스의 수익성을 극적으로 개선하며 ‘내실 다지기’에 나서고 있다.

21일(현지시간) 미 IT전문 매체 더 인포메이션이 오픈AI의 내부 재무 자료를 분석한 결과 유료 사용자를 대상으로 한 마진은 지난해 말 52%에서 올해 10월 기준 70%까지 급등하며 비즈니스 모델의 지속 가능성을 입증해 나가고 있다.

컴퓨트 마진이란 유료 사용자가 AI 모델을 사용할 때 발생하는 서버 구동 비용(추론 비용)을 매출에서 제외한 비율을 의미한다. 소프트웨어 기업의 수익성을 판단하는 핵심 지표로 수치가 높을수록 사용자 한 명을 응대할 때 드는 비용보다 벌어들이는 수익이 크다는 뜻이다. 예를 들어 유료 사용자가 20달러를 내고 챗GPT를 사용할 때 전기료와 칩 사용료(연산 비용) 등으로 6달러(30%)를 사용했음을 뜻한다.

이러한 수익성 개선은 오픈AI가 올해 초 단행한 내부 체질 개선의 결과로 풀이된다. 오픈AI는 지난 2월 중국의 AI 스타트업 딥시크가 훨씬 적은 비용으로 고성능 모델을 훈련·구동할 수 있다고 발표하자 사내에 ‘코드 레드(비상사태)’를 선언하고 서버 비용 절감에 총력을 기울여 왔다. 회사는 AI 모델이 답변을 생성할 때 사용하는 연산량을 최적화하는 한편, 서버 대여 비용 하락과 더불어 고가의 신규 유료 요금제를 출시해 고객당 매출(ARPU)을 끌어올렸다.

하지만 장밋빛 전망만 있는 것은 아니다. 오픈AI의 전체적인 서버 효율성 측면에서는 경쟁사인 앤스로픽이 앞서나갈 것으로 전망된다. 앤스로픽은 지난해 -90%라는 마진을 기록했으나 내년에는 68%까지 개선할 것으로 보이며 특히 무료 사용자가 적어 전체 서버 효율성에서 오픈AI를 추월할 가능성이 제기된다. 반면 오픈AI는 수억 명에 달하는 무료 사용자의 서버 비용을 유료 수익으로 메워야 하는 ‘구조적 숙제’를 안고 있다.

천문학적인 투자 규모도 여전히 재정적 압박 요인이다. 오픈AI는 2028년까지 서버 확충에만 총 2200억 달러(약 324조 원)를 투입할 계획이다. 이는 경쟁사 앤스로픽이 계획 중인 600억 달러의 3배가 넘는 규모다. 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 인터뷰에서 “현재 우리는 컴퓨팅 자원 제약이 심각한 상태”라며 “서버 자원만 두 배로 늘어난다면 매출도 즉시 두 배가 될 수 있을 것”이라고 강조하며 공격적인 투자 의지를 재확인했다.

시장에서는 오픈AI가 직면한 가장 큰 위협 중 하나로 구글과의 ‘칩 격차’를 꼽는다. 구글은 자체 설계한 AI 가속기(TPU)를 사용해 서버 운영 비용을 획기적으로 낮추고 있지만, 오픈AI는 엔비디아의 고가 칩에 의존하고 있어 비용 경쟁력에서 불리한 위치에 있다. 이에 따라 오픈AI는 향후 챗GPT에 쇼핑이나 광고 기능을 도입해 무료 사용자들로부터 추가 수익을 창출하는 방안을 검토 중이다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]