SK텔레콤, AI 서비스 용량 5배 늘려주는 ‘AI 가속 솔루션’ 상용화

SK텔레콤 분당 사옥에서 연구원들이 AI 가속 솔루션을 테스트하고 있는 모습. 제공 | SK텔레콤

[스포츠서울 김민규기자]SK텔레콤은 인공지능(AI) 서비스의 처리 속도를 높이는 ‘AI 가속 솔루션’을 개발해 자사의 AI 플랫폼 ‘누구(NUGU)’에 적용했다. 이를 통해 AI 서비스 성능 차별화는 물론 운용비용을 절감할 수 있을 것으로 회사 측은 기대했다.

21일 SK텔레콤에 따르면 데이터센터 기반 AI 서비스에 국내 최초로 AI 가속 솔루션을 상용화했다.

AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다. 또 솔루션 적용으로 AI 서비스 누구는 기존 대비 서비스 용량이 약 5배 늘어날 예정이다.

최근 AI 사용자 증가는 물론 금융·보안·쇼핑·인터넷 검색 등 생활 전 분야로 AI 서비스가 확대되고 있다. 이에 따라 기업들이 AI 서비스를 제공하기 위해 수집·처리해야 할 데이터도 폭증해 추가 서버 증설이 필요한 실정이다.

그러나 이런 상황에서 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량이 기존 대비 약 5배 증가하는 효과가 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나, 데이터센터 운용비 절감도 가능하다.

SK텔레콤 관계자는 “AI 서비스 누구의 월간 실사용자 수가 급증함에 따라 AI 가속 솔루션을 개발하게 됐다”며 상용화 배경에 대해 설명했다.

실제로 누구의 월간 실사용자 수는 지난해 8월 11만 명에서 올해 1분기 기준 300만 명을 돌파하면 급증했다. 이 같은 상황에 발맞춰 SK텔레콤은 약 2년간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화한 것. SK텔레콤은 자체 기술만으로 ▲하드·소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러(약 73조원)에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발과 상용화에 적극적으로 나서고 있다. SK텔레콤 역시 AI 연산 속도와 전력 효율성을 보다 향상할 수 있는 ‘차세대 AI 가속 솔루션’도 개발할 계획이다.

박진효 SK텔레콤 ICT기술원장은 “서비스 성능을 높이고 운용비 절감도 가능한 AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다”면서 “AI 서비스 누구를 시작으로 향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용하여 고객들에게 고품질의 서비스를 제공할 것”이라고 포부를 밝혔다.
kmg@sportsseoul.com

[기사제보 news@sportsseoul.com]
Copyright ⓒ 스포츠서울&sportsseoul.com