SKT·배민이 AWS와 'AI 동맹' 맺은 이유는…"비용 절감, 유연성, 확장성 우위"

[남도영 기자]

함기호 AWS코리아 대표가 16일 서울 코엑스에서 열린 'AWS 서밋 서울 2024'에서 인사말을 하고 있다. /사진=AWS코리아 제공

세계 최대 클라우드 기업 아마존웹서비스(AWS)가 2만명 이상이 몰린 'AWS 서밋 서울 2024' 콘퍼런스 행사를 통해 국내 기업들에게 생성형 AI 도입을 위한 최적의 플랫폼을 제공하겠다고 어필했다.

특히 AWS는 AI 모델 학습 및 추론 비용을 절감해주는 자체 칩 경쟁력과 더불어 기업이 다양한 AI 모델을 유연하게 선택해 생성형 AI 애플리케이션을 신속하게 개발할 수 있도록 지원하는 '아마존 베드락' 플랫폼의 강점을 내세웠다.

자체 칩으로 비용 효율성 높인다

16일 서울 삼성동 코엑스에 열린 이번 행사 기조연설에서 함기호 AWS코리아 대표는 "생성형 AI 도입은 지속 가능성과 비용 절감 측면에서 중요한 전환점을 맞이하고 있다"고 강조했다.

AWS는 자사가 개발한 AI 칩 기반으로 제공되는 클라우드 인스턴스를 통해 기업들이 AI 모델 훈련과 추론을 위해 고가의 AI 가속기(GPU)를 도입하는 비용을 절감할 수 있다는 점을 어필했다. 기업들은 AWS 자체 칩 뿐만 아니라 엔비디아 등 타사 최신 AI 가속기를 조합해 AI 워크로드를 아마존 EC2 인스턴스에서 실행할 수 있다.

함 대표는 "AWS의 자체 칩 '그래비톤'을 활용하면 에너지 효율을 높여 탄소 발생을 줄일 수 있다"며 "한국은 아시아 지역에서 2번째로 많이 그라비톤을 도입할 정도로 관심이 높은 상황"이라고 설명했다. 또 "AWS가 자체 제작한 AI 칩 '인퍼런시아'와 '트레이니움'을 도입하거나 검토 중인 고객사도 빠르게 증가하고 있다"며 "이를 통해 GPU를 최적화와 비용 절감을 동시에 실현할 수 있다"고 강조했다.

아마존이 지난해 선보인 '그래비톤4'는 기존 그래비톤3 프로세서 대비 최대 30% 향상된 컴퓨팅 성능, 50% 더 많은 코어, 75% 더 많은 메모리 대역폭을 제공해 아마존 EC2에서 실행되는 워크로드에 최고의 가격 대비 성능과 에너지 효율성을 제공한다. 또 최신 추론용 칩 인퍼런시아 2세대는 전 세대 대비 딥러닝 추론을 위한 에너지 효율을 50% 향상시켰고, 교육용 칩 트레이니움 2세대 역시 최대 25%의 에너지 효율을 강화했다.

프란체스카 바스케스 AWS 프로페셔널 서비스 및 생성형 AI 혁신 센터 부사장이 16일 서울 코엑스에서 열린 'AWS 서밋 서울 2024'에서 기조연설을 하고 있다. /사진=AWS코리아 제공

프란체스카 바스케스 AWS 프로페셔널 서비스 및 생성형 AI 혁신 센터 부사장은 "AI가 경제적 타당성을 갖추기 위해선 학습과 추론을 위한 높은 성능과 비용 효율성을 동시데 가져가야 한다"며 "AWS의 자체 실리콘인 인러펀시아와 트레이니엄을 통해 엄청난 비용을 절감할 수 있다"고 말했다.

AI 애플리케이션 개발, 빠르고 안전하게

경쟁사인 마이크로소프트 애저가 오픈AI 'GPT' 모델 독점을 앞세워 세를 확장하고 있는 것에 대항해 다양한 AI 모델을 단일 API로 활용할 수 있는 완전 관리형 서비스 '아마존 베드록'을 앞세워 경쟁 중이다. 단일 AI 모델에 대한 종속 위험성을 줄이고, 기업이 보유한 데이터를 보다 잘 활용할 수 있도록 다양한 도구를 제공해 AI 애플리케이션을 보다 효율적이고 안전하게 구축할 수 있는 게 베드록의 강점이다.

바스케스 부사장은 "기업들이 어떤 AI 모델을 활용하고 데이터를 안전하게 지킬 지 고민하고 있다는 점이 아마존 베드록을 개발한 이유"라며 "기업들은 베드록을 통해 손쉽게 거대언어모델(LLM)을 비롯한 파운데이션 모델로 애플리케이션을 구축할 수 있다"고 말했다.

이날 아마존으로부터 5조원 이상의 투자를 받은 AI 기업 엔트로픽의 니라브 킹스랜드 제휴총괄은 "엔트로픽은 신뢰할 수 있는 AI 모델 만들기 위해 노력 중으로, 최신 AI 모델 '클로드3'는 아마존 베드록에서도 활용 가능하다"며 "AI 칩 성능이 2~3배씩 늘어나면서 AI 모델은 더 빠르게 발전해 나갈 것이며, 몇 년 후 선보일 '클로드 5'는 현재보다 100배 이상 향상된 성능을 가질 것"이라고 말했다.

니라브 킹스랜드 앤스로픽 제휴총괄이 16일 서울 코엑스에서 열린 'AWS 서밋 서울 2024'에서 기조연설을 하고 있다. /사진=AWS코리아 제공

바스케스 부사장은 "AI 모델이 전례없는 속도로 진화하면서 하나의 모델이 모든 모델을 지배할 수 없게 됐으며, 고객이 유연하게 선택 가능할 수 있다는 점이 중요하다"며 "베드록은 모델 평가 기능을 제공하며, 이를 통해 어떤 모델을 선택하든 생성형 AI 애플리케이션을 안전하고 신뢰할 수 있는 방식으로 배포할 수 있다"고 강조했다. 또 "AI 모델은 잠재적으로 오남용 될 수 있다는 가능성을 열어놔야 한다"며 "이런 위험을 감소시키고 능력은 최대한 발휘할 수 있도록 베드록은 '가드레일'을 구현해 기업들이 각자 AI 정책에 맞춰 애플리케이션을 구현하도록 했다"고 덧붙였다.

AWS는 AI 애플리케이션 코딩 작업을 돕는 자체 AI 모델 '아마존 Q'도 선보이고 있다. 바스케스 부사장은 "기업들은 LLM 파운데이션 모델을 손쉽게 사용하면서 기계학습에 대한 전문성 없이도 애플리케이션을 개발할 수 있길 바란다"며 "아마존Q는 다양한 분야의 전문성을 기반으로 AI 애플리케이션 개발 사이클 전 과정을 지원한다"고 말했다.

AI 데이터 관리도 클라우드 필수

AWS는 AI에 최적화된 데이터 관리의 중요성을 강조하며, 클라우드를 통해 이를 구현될 수 있다고 설명했다. 바스케스 부사장은 "현재 모든 비즈니스는 결국 데이터 비즈니스"라며 "데이터는 기업의 가장 강력한 차별화 요소로 이를 최대한 활용하려면 데이터가 항상 최신 상태를 유지하며 정확하게 검색돼야 하고 언제 어디서든 사용 가능한 상태여야 한다"고 말했다.

그는 "AI 애플리케이션은 기존 데이터 기반 위에 있는 새로운 애플리케이션 유형"이라며 "아마존 베드록은 맞춤화된 고품질 엔터프라이즈 데이터를 기반으로 파인튜닝, 지속적 훈련, 검색증강생성(RAG) 등의 도구를 제공해 애플리케이션 개발을 지원한다"고 말했다.

AWS는 국내 기업들이 민감하게 생각하는 데이터 보안에 대해서도 자신감을 나타냈다. 바스케스 부사장은 "AWS는 보안과 개인정보보호를 최우선으로 두고 있으며, 기업들의 데이터를 모델 훈련에 사용하지 않는다"며 "비공개 컨테이너를 생성해 해당 기업만 접근이 가능하고, 데이터는 암호화해 전송해 접근이 불가하다"고 강조했다.

AWS와 함께 신기술 도입하고 글로벌 시장 진출

이날 활용 사례를 발표한 송재하 우아한형제들 최고기술책임자(CTO)는 "배달의민족은 폭발적으로 늘어나는 이용자로 인한 서비스 장애를 근본적으로 돌파하기 위해 전면적인 클라우드 이전을 단행했다"며 "이를 통해 효율적이고 유연한 플랫폼으로 진화할 수 있었다"고 말했다.

송재하 우아한형제들 최고기술책임자(CTO)가 16일 서울 코엑스에서 열린 'AWS 서밋 서울 2024'에서 인사말을 하고 있다. /사진=AWS코리아 제공

우아한형제들이 운영하는 배달앱 '배달의민족'은 월 활성사용자 2000만명을 대상으로 연간 11억건의 배달 주문을 처리하고 있다. 송 CTO는 "AWS를 통해 시스템 유연성과 확장성을 확보하고 개발 속도를 크게 높이며 변화하는 시장 요구에 대응하고 있다"며 "특히 결제와 정산 영역까지 클라우드 상에 구축한 건 IT 업계에서 획기적인 사례였다"고 소개했다.

송 CTO는 향후 AI 도입이 배달 시장의 핵심 경쟁력이 될 것이라 전망했다. 그는 "그동안 축적한 빅데이터를 바탕으로 플랫폼 전반에 AI 기술을 적용하고 있고 개발자들의 생산성을 끌어올리는 데도 AI를 적극적으로 활용하고 있다"며 "AI 기술을 바탕으로 빠르게 자율주행 로봇의 고도화가 이뤄지고 있으며, 생성형 AI를 활용한 플랫폼 사용자 인터페이스(UX) 혁신도 시도 중으로 이 과정에 아마존 베드록이 큰 도움이 될 것으로 기대 중"이라고 말했다.

'글로벌 AI 컴퍼니'로 체질 개선을 추진 중인 SK텔레콤은 AWS와의 글로벌 협업에 대한 기대감을 드러냈다. 정석근 SK텔레콤 글로벌 AI 테크 사업부장(부사장)은 "AWS와 기술 협력 뿐만 아니라 글로벌 확장을 위해 통신 분야 클라우드 1위인 AWS 고객들에게 우리 기술과 플랫폼을 확장하는 것까지도 기대를 해보고 있다"며 "자체 모델 '에이닷 엑스(A.X)'를 베드록을 통해 서비스하는 준비도 하고 있다"고 말했다.

정석근 SK텔레콤 글로벌 AI 테크 사업부장(부사장)이 16일 서울 코엑스에서 열린 'AWS 서밋 서울 2024'에서 인사말을 하고 있다. /사진=AWS코리아 제공

SK텔레콤은 독일 도이치텔레콤, 중동 이엔그룹, 동남아시아 싱텔 그룹, 일본 소프트뱅크 등과 함께 '글로벌 텔코 AI 얼라이언스(GTAA)'를 구축하고 이를 기반으로 글로벌 진출을 추진 중이다. 정 부사장은 "국내 넘버원을 넘어 글로벌에서도 의미있는 사업자가 돼보려고 한다"며 "GTAA를 통해 50개국 13억명 정도의 스케일을 확보할 수 있었고, 이들을 대상으로 글로벌 서비스를 하기 위해선 클라우드 인프라가 필수"라고 말했다.

SK텔레콤은 AWS와 AI 모델 '클로드'를 제공 중인 AI 기업 엔트로픽과의 긴밀한 협업을 통해 텔코에 특화된 AI 레이어를 구축한다는 계획이다. 정 부사장은 "텔코 LLM은 엔트로픽 클로드를 베이스 모델로 아마존 베드록을 통해 파인튜닝 등의 기술을 활용하고 있다"며 "SK텔레콤이 가진 여러 데이터와 더불어 다른 통신사들의 데이터도 함께 넣어 도메인 최적화를 추진하고 있으며, 올 하반기부터 회사 운영에 직접 활용할 계획"이라고 말했다.

남도영 기자 hyun@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>