지난 2년간 AI의 본격적인 대중화는 반도체 산업을 빠르게 변화시켰다. 특수 프로세서에 대한 수요를 촉진하고 설계 혁신을 가속했으며, 글로벌 공급망과 시장을 재편했다.
2022년 말 오픈AI가 챗GPT를 출시하면서 시작된 생성형 AI 혁명은 AI 추론, LLM, 그리고 반도체 기술의 한계를 계속해서 뛰어넘고 있다. AI의 병렬 처리 요구를 충족하지 못하는 기존의 CPU는 GPU, TPU, NPU, 그리고 AI 가속기와 같은 전문화된 칩으로 빠르게 대체되고 있다.
이런 변화로 엔비디아, AMD, 인텔과 같은 기업은 AI에 최적화된 제품을 포트폴리오에 추가하며 영역을 확장했다. 특히 엔비디아는 AI 학습과 추론을 위한 GPU 분야에서 선두를 달리고 있다. 또한 AI 워크로드가 처리량, 에너지 효율성, 확장성을 우선시함에 따라 기술 업계 전반에서 데이터센터에 대한 대규모 투자가 이루어졌다. 현재 엔비디아 H100과 AMD MI300 같은 AI 중심 칩은 AI 클라우드 컴퓨팅의 핵심 인프라를 구성하고 있다.
동시에 아마존, 마이크로소프트, 구글과 같은 기업은 AWS 그래비톤(Graviton), 구글 TPU와 같은 맞춤형 칩을 개발해 외부 공급업체에 대한 의존도를 줄이고 AI 성능을 강화하고 있다.
특히 AI 확산은 엔비디아의 성장을 촉진해 데이터센터 시장의 지배적인 강자로 자리매김하게 했다. 한때 게이밍 시스템용 칩 생산에 집중했던 엔비디아는 이제 AI 기반 하드웨어와 소프트웨어로 게이밍 칩 분야를 넘어섰으며, 이를 통해 놀라운 재정적 성과를 거뒀다. 엔비디아의 시가총액은 2023년 5월 1조 달러를 돌파했고, 2024년 6월에는 3.3조 달러를 넘어섰다. 그 당시 엔비디아는 세계에서 가장 가치 있는 기업이 됐다.
AI 칩 산업은 큰 변화를 앞두고 있다. 지난 몇 년간 반도체 개발 및 제조업체들은 AWS, 구글 클라우드 플랫폼, 마이크로소프트 애저(Azure)와 같은 대형 클라우드 서비스 업체의 데이터센터 수요를 맞추는 데 주력했다. 이런 클라우드 서비스는 조직 내부 AI 개발에서 중요한 역할을 담당해 왔다.
그러나 이제 소규모 AI 모델로의 전환이 진행되고 있다. 이들 모델은 기업 내부 데이터를 활용해 보다 안전하고 맞춤화된 생성형 AI 애플리케이션과 AI 에이전트를 구현할 수 있도록 한다. 동시에 엣지 AI(Edge AI)가 자리를 잡아가고 있다. 엣지 AI는 PC, 스마트폰, 차량, IoT 기기 등을 포함한 디바이스 자체에서 AI 처리를 가능하게 하며, 클라우드 인프라에 대한 의존도를 줄이고 에너지 효율적이고 저전력 소모 칩에 대한 수요를 촉진한다.
IDC의 그룹 부사장 마리오 모랄레스는 “AI를 대중화하려면 솔루션 설계를 근본적으로 바꿔야 한다. 이는 엔비디아가 직면할 도전 과제가 될 것이다. 크고 복잡한 GPU로 모든 엔드포인트를 처리할 수 없기 때문이다. 이 분야는 퀄컴, ST 마이크로(ST Micro), 르네사스(Renesas), 앰바렐라(Ambarella)와 같은 신생 및 기존 기업에 기회가 될 것이다. 이들은 이미 많은 기술을 보유하고 있지만, 이제는 이를 활용하는 방법이 관건이 될 것”이라고 말했다.
이어 “이것이 바로 AI의 다음 개척지인 엣지다”라고 덧붙였다.
일부 반도체 제조업체를 둘러싼 시장 변동
2023년 전 세계 반도체 칩 매출은 전년 기록인 5,741억 달러에서 약 5,340억 달러로 11% 감소했다. 침체는 오래가지 않았다. 모랄레스에 따르면, AI 채택 증가와 PC 및 스마트폰 판매 안정화로 인해 2025년에는 매출이 22% 증가할 전망이다.
모랄레스는 “엔비디아, 브로드컴, AMD, 혹은 최근의 마블(Marvel)처럼 메모리 칩이나 AI 가속기를 만드는 회사라면 매우 좋은 성과를 내고 있다. 반면, ST 마이크로, 인피니언, 르네사스, 텍사스 인스트루먼트와 같은 반도체 회사는 과잉 재고와 불확실한 거시경제 환경으로 인해 산업 및 자동차 부문에서 큰 타격을 받았다. 이 두 시장은 2023년 우수한 성과를 냈지만, 2024년에는 심각한 타격을 입었다”라고 덧붙였다.
현재 사용되는 대부분의 LLM은 공공 데이터를 기반으로 하지만, 전 세계 데이터의 80% 이상이 기업 내부에 저장되어 있다. 이런 데이터는 오픈AI나 앤트로픽 같은 플랫폼과 공유되지 않는다. 이런 점은 엔비디아, 퀄컴, AMD와 같은 칩 제조업체에 유리하게 작용한다. 기업이 기술을 내부적으로 도입함에 따라 더 낮은 가격대와 더 높은 에너지 효율성을 갖춘 고도로 특화된 SoC 기술이 시장을 지배하기 시작할 것으로 예상된다.
모랄레스는 “이런 변화는 시장의 역학을 확실히 바꿔놓을 것이다. 그래서 많은 기업이 기술을 활용해 엣지와 엔드포인트를 대상으로 전략을 조정하는 모습을 보고 있는 것이다. 이것이 다음 성장의 물결이라고 생각한다. 기업은 자체적인 데이터센터 접근 방식을 채택하고 있다”라고 말했다.
인텔은 계속해서 PC 프로세서 시장에서 안전한 입지를 유지할 것으로 보인다. TSMC에 제조를 아웃소싱한 결정 덕분에 AMD와의 경쟁에서도 경쟁력을 유지하고 있다. 그러나 인텔은 신흥 시장에서 다른 반도체 제조업체들과 속도를 맞추는 데 어려움을 겪을 가능성이 크다. 모랄레스는 “인텔의 데이터센터 사업을 보면, 여전히 AMD에 점유율을 잃고 있다. 엔비디아에 대한 대응책도 없다”라고 지적했다. 인텔의 최신 x86 및 가우디 AI 가속기는 엔비디아의 H100과 블랙웰 GPU와 경쟁하기 위해 설계됐지만, 시장이 찾는 해결책이라기보다는 “임시방편”이라는 의견이다.
모랄레스는 “클라이언트 측면에서는 AI가 PC에 통합되는 교체 주기를 활용할 수 있는 기회가 있다. 마이크로소프트로부터 코파일럿에 대한 지지를 받은 점은 인텔의 x86 라인에 기회를 제공한다. 인텔이 변화에서 회복할 때까지 계속 싸울 수 있는 영역이 될 것이다”라고 덧붙였다.
S&P 글로벌 레이팅(S&P Global Ratings)의 기술 디렉터 앤드루 창에 따르면, 엔비디아 칩이 성장을 주도하는 오늘날 데이터센터에서 경쟁력을 유지하기 위해 인텔과 AMD는 GPU에 투자해야 한다.
창은 “CPU는 여전히 필수적이지만, 엔비디아가 AI 칩 시장을 지배하고 있어 AMD와 인텔은 경쟁에 어려움을 겪고 있다. AMD는 2025년까지 AI 칩 매출 50억 달러를 목표로 하고 있으며, 인텔의 AI 노력은 가우디 플랫폼 중심으로 최소화되어 있다. 두 회사 모두 GPU와 AI 가속기에 계속 투자하며 약간의 매출 증가를 보이겠지만, 데이터센터 시장에서의 점유율 감소는 계속될 가능성이 크다”라고 말했다.
트럼프 집권 이후 일어날 일들
지정학적 및 경제적 요인, 예를 들어 수출 제한, 공급망 혼란, 정부 정책 등이 반도체 산업을 재편할 가능성이 있다. 도널드 트럼프 대통령 당선인은 오는 1월 20일 취임 후 반도체 수입품에 대한 높은 관세를 부과할 계획을 시사했다.
칩스법(CHIPS and Science Act)은 미국 내에서 반도체 개발 및 제조 운영을 하는 기업들에 수십억 달러의 지원을 약속한다. 이 법안에 따라 TSMC, 인텔, 삼성, 마이크론을 포함한 여러 기업에 390억 달러가 배정됐다. 이들 기업은 새로운 제조 또는 연구 시설을 계획 중이거나 이미 건설 중이다.
그러나 지원을 받기 위해서는 각 기업이 구체적인 이정표를 충족해야 한다. 그전까지는 자금이 집행되지 않는다. 수십억 달러 규모의 지원금 약속은 미국 내 반도체 생산을 다시 활성화하는 데 큰 도움이 되고 있지만, 모랄레스는 칩스법의 25% 세금 감면이 더 큰 혜택이라고 지적했다.
모랄레스는 “심지어 인텔 같은 회사도 약 500억 달러에 달하는 세금 감면을 받게 될 것이다. 이는 전례 없는 일이다. 진정한 혜택은 여기에서 나온다”라고 언급했다.
트럼프 대통령 당선인은 리쇼어링(생산시설의 본국 복귀)을 장려하기 위한 정부의 자금 지원이 잘못된 접근 방식이라고 지적했지만, 업계 전문가들은 트럼프 취임 후 칩스법의 자금을 대폭 삭감할 것으로는 보지 않고 있다. 모랄레스는 “칩스법에 대한 약간의 수정이 있을 것으로 예상하지만, 아직 배분되지 않은 자금을 삭감하는 극단적인 조치는 없을 것이다. 칩스법은 초당적 지지를 받았으며, 이를 수정하려는 시도는 애리조나와 오하이오처럼 혜택을 받는 주들로부터 반발에 부딪힐 것”이라고 덧붙였다.
현재까지는 에너지 소비가 많은 클라우드 데이터센터를 구동하는 고성능 프로세서가 시장을 지배해왔지만, 앞으로는 에너지 효율적인 엣지 디바이스용 AI 프로세서가 지속적으로 주목받을 것으로 보인다.
모랄레스는 “올해에는 AI를 통합한 PC나 스마트폰, 또는 더 작고 정교하게 조정된 모델을 활용해 AI 추론을 수행하는 웨어러블 디바이스가 출시될 예정이다. 이것이 우리가 나아갈 방향이며, 앞으로 몇 년간 매우 중요한 시장이 될 것”이라고 강조했다.
또한 “AI 추론은 지금까지 데이터센터에서 보아왔던 것보다 더 큰 비중을 차지할 것”이라고 전망했다.
LLM에서 SLM 및 엣지 디바이스로의 전환
기업과 기타 조직은 단일 AI 모델에서 벗어나 멀티모달 AI(multimodal AI) 또는 여러 유형의 데이터(텍스트, 이미지, 오디오, 비디오, 감각 입력 등)를 처리하고 통합하는 LLM로 초점을 전환하고 있다. 다양한 리소스에서 제공되는 입력을 통해 모델은 해당 데이터를 더 포괄적으로 이해하고 다양한 작업에서 성능을 개선할 수 있다.
S&P 글로벌의 보고서에 따르면, 기업의 80% 이상이 향후 2년 내에 AI 워크플로우가 증가할 것으로 예상한다. 약 2/3는 IT 인프라 업그레이드에 대한 압박을 받을 것으로 전망하고 있다.
다만 S&P 글로벌 레이팅의 최고 혁신 책임자 수딥 케시는 AI가 작고 특정 작업에 초점을 맞춘 모델로 진화하고 있지만, 더 크고 범용적인 모델 역시 여전히 필수적일 것이라며 “이 두 가지 유형의 모델은 공존하며, 각각의 영역에서 기회를 창출할 것”이라고 말했다.
핵심 과제는 계산 및 에너지 효율성을 갖춘 모델 개발로, 이는 칩 설계 및 구현에 큰 영향을 미칠 것이다. 칩 제조업체는 확장성, 상호운용성, 시스템 통합 문제도 해결해야 한다. 이들 요소는 산업 전반에서 기술 발전을 촉진하고 자율 시스템을 개선하며, 엣지 AI와 같은 미래 개발을 가능하게 할 것이라고 케시는 덧붙였다.
특히 기업이 클라우드 기반 LLM에서 벗어나 엣지 디바이스와 엔드포인트에 배포할 수 있는 SLM을 채택함에 따라, AI 추론에 대한 업계의 관심이 더욱 높아질 것으로 예상된다.
IDC의 모랄레스는 “지금은 풍요와 기근이 공존하는 환경이다. 앞으로 한 해 동안 어떤 일이 벌어질까? 데이터센터의 성장은 엄청났고, 2025년에도 계속될 것이다. 특히 기대하는 것은 기업이 IT 예산을 AI에 우선적으로 배정하기 시작하고 있다는 점이다. 이로 인해 프로세서에 대한 수요가 두 번째 물결을 일으킬 것”이라고 언급했다.
dl-itworldkorea@foundryco.com
Lucas Mearian editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
