기술적 진보, 에이전트·추론 중심의 진화가 ‘챗봇’을 ‘업무 수행 시스템’으로 바꿔
인프라 전쟁, GPU·메모리·데이터센터가 AI 경쟁의 기초가 돼… ‘공급망’이 승부처로 떠올라
전 세계 AI 사용은 늘었지만… 격차는 확대, 순위 급등으로 존재감 드러낸 대한민국
 |
ⓒTech42 |
[편집자주]
2026년 새해, AI 산업의 무게중심은 ‘모델 성능 경쟁’을 넘어 ‘확장(스케일) 경쟁’으로 옮겨가고 있다. 기업들은 더 낮은 추론 비용, 에이전트의 대규모 운영, 전력·데이터센터·GPU 같은 인프라 병목, 그리고 신뢰·보안·거버넌스라는 규칙의 변화를 동시에 마주했다. 한국도 반도체·제조 기반의 강점을 갖고 있지만, 전력과 컴퓨팅 자원, 인재 확보, 규제 해석과 국제 표준 대응 같은 과제가 한꺼번에 커지는 국면이다. 이에 테크42는 이와 같은 글로벌 AI 산업 환경과 한국이 마주한 도전을 신년 기획 '2026 AI 인사이트'로 소개한다.
이번 시리즈는 2025년의 주요 이슈를 돌아보는 것을 시작으로, 2026년을 전망한다. ‘확장의 조건’을 해부하며 피지컬 AI의 부상과 산업 현장 적용의 변화도 짚을 예정이다. 마지막으로 한국의 구조적 강점과 약점을 진단하며 AI를 산업 운영체계로 만드는 실행 로드맵을 알아본다.
우선은 2025년의 회고다. 지난해 어떤 이슈가 AI 산업계를 관통했을까? 여러 이슈가 있었지만 한 마디로 표현하자면 ‘도입에서 실행으로’라고 할 수 있다. 기업은 더 이상 AI를 자사 비즈니스에 ‘붙여보는’ 단계에 머물지 않았다. 대신 업무를 끝까지 수행하는 에이전트, 정확도를 끌어올리는 추론 중심 설계, 그리고 이를 뒷받침하는 연산·메모리·데이터센터 인프라가 경쟁력을 좌우하기 시작했다.
 |
ⓒTech42 |
동시에 ‘확산(Scale)’은 대중화 국면으로 들어섰다. 마이크로소프트의 분석에 따르면 2025년 하반기 전 세계 생성형 AI 사용 비중은 16.3%까지 상승했다. 하지만 이 확산은 균등하지 않았다. 앞서가는 몇몇 나라들과 그렇지 않은 나라들 간의 격차는 오히려 더 벌어졌고, 디지털 인프라·언어 성능·배포 전략이 국가별 채택 속도를 갈랐다.
이러한 상황은 여러 글로벌 컨설팅 기업과 빅테크들이 쏟아 낸 리포트들에서도 살펴볼 수 있다. 각각의 리포트들이 쏟아낸 분석은 조금씩 다르지만, 그 내용을 10개 이슈로 압축하면 다음과 같다. ① 에이전틱 AI 부상 ② 에이전트 프로젝트의 과열과 실패 리스크 ③ AI 추론·실행 중심의 시대 부상 ④ ‘모델 경쟁’에서 ‘공급망 경쟁’으로 이동(GPU·메모리·데이터센터가 병목) ⑤ 기업 AI 사용의 대중화 ⑥ 생성형 AI 투자 집중 ⑦ ‘사용’과 ‘성과 확장’의 간극 ⑧ 전 세계 확산률 상승 ⑨ 확산 격차 확대 ⑩ 한국의 생성형 AI 도입 순위 상승(25위→18위) 등이다.
결국 2025년은 “AI를 얼마나 잘 만들었나” 못지않게 “AI를 얼마나 운영 가능한 형태로 만들었나”가 산업의 승패를 가른 해였다고 볼 수 있다.
 |
ⓒTech42 |
에이전트·추론·멀티모달… 기술 진보가 ‘제품 설계’를 바꿨다
 |
ⓒTech42 |
2025년 기술 키워드는 단연 에이전틱(Agentic) AI였다. 가트너는 2025년 10대 전략기술 트렌드에서 에이전틱 AI를 전면에 두며 “사용자 목표를 위해 자율적으로 계획하고 행동하는 시스템”으로 정의했다. 더 나아가 오는 2028년에는 일상 업무 의사결정의 일정 비율이 에이전틱 AI로 자율 수행될 것이라는 전망도 제시했다.
이 흐름은 단순한 ‘챗봇 고도화’가 아니었다. 2025년은 추론(reasoning)이 본격적으로 제품의 핵심 성능 지표로 올라온 시기다. 엔비디아는 지난해 3월 ‘Blackwell Ultra’를 발표하며 ‘AI 추론의 시대’를 전면에 내세웠고, 학습뿐 아니라 추론 과정에서 더 많은 연산을 투입해 정확도를 끌어올리는(test-time scaling inference) 방향을 강조했다. 이는 기업 입장에서 ‘모델을 한 번 돌려 답을 받는 AI’에서 ‘업무를 끝낼 때까지 여러 단계로 추론하고 실행하는 AI’로의 진화를 의미한다.
다만 ‘자율성’이 커질수록, 기대만큼의 가치가 실제로 나오지 않는 사례도 늘었다. 이에 가트너는 에이전틱 AI 프로젝트의 상당수가 비용 부담과 불명확한 성과 때문에 중도 폐기될 수 있다는 취지의 전망을 하기도 했다. 즉 2025년은 기술이 앞서가고 조직이 뒤따르는 과정에서, ‘에이전트 워싱’ 같은 과장도 함께 커진 해로 기억될 수도 있다.
AI 인프라 전쟁: GPU·메모리·데이터센터가 경쟁력의 바닥을 결정
 |
ⓒTech42 |
2025년 AI 경쟁의 본질은 점점 더 ‘모델’에서 ‘공급망’으로 옮겨갔다. 특히 연산(GPU)과 메모리, 전력과 데이터센터는 AI 경쟁의 ‘보이지 않는 결승선’이 됐다. 엔비디아가 ‘AI 팩토리’와 엔터프라이즈용 슈퍼컴퓨팅 패키지를 강조한 것도 같은 맥락이다. 기업들은 이제 ‘좋은 모델’을 찾는 일만으로는 충분하지 않다는 걸 체감했다. 모델을 운영 가능한 비용과 지연시간으로 굴리고, 보안·거버넌스까지 감당할 수 있어야 했다.
투자 데이터도 이 전환을 뒷받침한다. 스탠퍼드 HAI의 ‘AI Index 2025’에 따르면 2024년 기준 조직의 AI 사용 비율이 78%로 늘었고, 생성형 AI 분야의 민간 투자도 339억달러로 확대됐다. 이는 AI ‘도입 확산’이 ‘투자 확장’과 맞물리며, AI가 연구 트렌드가 아니라 산업 구조로 자리잡았음을 보여준다.
확산은 빨랐지만, 모두에게 해당되는 것은 아니었다
 |
ⓒTech42 |
AI는 지난해 ‘대중화’라는 문턱도 넘었다. 마이크로소프트의 ‘AI Diffusion Report 2025 H2’는 2025년 하반기 전 세계 생성형 AI 도구 사용 비중이 16.3%에 도달했다고 분석했다. 이는 ‘대략 6명 중 1명’이 학습·업무·문제 해결에 AI를 쓴다는 의미다.
그러나 보고서는 동시에 디지털 격차의 확대를 경고한다. 글로벌 노스(주로 고소득·선진 경제권)의 AI 사용자 비중은 22.9%에서 24.7%로 늘었지만, 글로벌 사우스(주로 중·저소득/개도권)는 13.1%에서 14.1%로 증가 폭이 더 작았다. 그 결과 격차는 9.8%p → 10.6%p로 벌어졌다. 국가별 개인소득이나 경제 환경에 따라 확산 속도가 ‘동일’하지 않다는 점이 2025년 AI 산업의 가장 중요한 구조적 이슈로 부상한 셈이다.
이 지점에서 한국은 흥미로운 사례로 등장한다. 이 보고서에서 한국은 2025년 하반기 AI 확산 순위가 25위에서 18위로 7계단 상승하며 가장 큰 폭의 순위 변동을 기록했다고 짚었다.
2025년의 한계, “사용은 늘었지만, 스케일은 어렵다”
 |
ⓒTech42 |
2025년을 관통한 또 하나의 키워드는 ‘파일럿에서 확장으로’가 아닐까? 맥킨지의 ‘The State of AI’ 2025 조사에 따르면 응답자의 88%가 최소 한 개 업무 기능에서 AI를 정기적으로 사용한다고 답했다.
하지만 한편으로 맥킨지는 ‘확대 사용’과 ‘확장된 임팩트’ 사이에 성장통이 남아 있음을 강조했다. 다시 말해 AI를 ‘도입’하는 기업은 늘었지만, 전사 단위의 운영 모델·데이터 체계·인재·기술 스택을 함께 바꿔 성과를 고정시키는 기업은 제한적이라는 지적이다.
정리하면 2025년은 AI가 ‘대중화’와 ‘산업화’를 동시에 달성한 해였지만, 그만큼 격차와 병목도 함께 산업 이슈로 커진 해였다.
다음 2026 AI 인사이트 2편에서는 ‘AI 확산의 지도’를 데이터로 풀어낸 마이크로소프트 리포트를 중심으로 국가·지역별 격차가 왜 벌어졌는지를 좀 더 촘촘히 짚는다.
황정호 기자
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.