"AI 처리속도 20배↑"…SK텔레콤이 만든 'AI 가속기'는 무엇?

SK텔레콤이 인공지능(AI) 처리 속도와 양을 획기적으로 늘리는 인공지능 가속기를 개발, 상용화하는 데 성공했다.

SK텔레콤은 AI 서비스 용량을 약 5배 늘려주는 ‘AI 가속 솔루션’을 개발해, 자사 AI 서비스 ‘누구’에 적용했다고 21일 밝혔다. 사진은 SK텔레콤 분당 사옥에서 연구원들이 AI 가속 솔루션을 테스트하고 있는 모습. [사진 SK텔레콤]

21일 SK텔레콤은 기자간담회를 열고 회사가 자체 개발한 인공지능 가속 솔루션(AIX, AI Inference Accelerator)을 소개했다. 국내에서 인공지능 가속 솔루션을 개발해 데이터 기반의 인공지능 서비스에 실제 적용까지 한 것은 SK텔레콤이 처음이다.

손바닥만 한 카드 모양으로 생긴 인공지능 가속기는 우선 SK텔레콤의 인공지능 서비스 '누구'와 관련한 서버에 적용됐다. 2016년 인공지능 스피커로 처음 시중에 나온 인공지능 서비스 '누구'는 현재 내비게이션·키즈폰·셋톱박스 등에도 적용되어 있다. 지난 1분기 '누구' 서비스를 이용하는 월 실사용자가 300만명을 돌파했다.

SK텔레콤은 “가속기 하나만 설치해도 '누구' 서버에서 처리할 수 있는 서비스 용량이 약 5배 정도 늘어나고 딥러닝 연산 속도는 20배 가까이 빨라진다”고 설명했다.

이 같은 인공지능 가속기가 필요하게 된 데는 인공지능과 관련한 서비스와 이에 대한 수요가 폭발적으로 늘어났기 때문이다. 금융·보안·쇼핑·인터넷 검색 등 생활 전 분야에 인공지능 서비스가 확대되면서 기업들이 실시간으로 처리해야 할 정보의 양이 기하급수적으로 증가하고 있다.

SK텔레콤은 AI 서비스 용량을 약 5배 늘려주는 ‘AI 가속 솔루션’을 개발해, 자사 AI 서비스 ‘누구’에 적용했다고 21일 밝혔다. 국내에서 ‘AI 가속 솔루션’을 데이터센터 기반 상용 서비스에 적용한 기업은 SK텔레콤이 최초다. [사진 SK텔레콤]

인공지능 가속기를 쓰는 장점 중에는 비용 절감 효과도 있다. 별도로 서버를 증설하지 않고도 인공지능 관련 서비스 처리 용량을 크게 늘릴 수 있기 때문이다.

엔비디아가 유명한 그래픽처리장치(GPU)도 그래픽을 빠른 속도로 처리하는 고성능 처리 장치다. 그러나 GPU를 구동하기 위해서는 일정한 통풍·온도·전력 등의 환경을 구축해야 한다. GPU 서버를 운영하기 위한 각종 관리·유지 비용도 들어간다.

이날 기자간담회에 참석한 정무경 SK텔레콤 소프트웨어개발원 ML 인프라 랩장은 "인공지능 가속기는 전력 효율성이 GPU 방식 가속 솔루션보다 16배 정도 뛰어나고 데이터센터를 운영하는 비용도 절감할 수 있다는 장점이 있다"고 설명했다.

인공지능 가속기는 인텔·화웨이 등 글로벌 정보통신기술 기업들이 경쟁적으로 뛰어드는 분야다. 인텔의 자회사이자 프로세서 개발 전문 기업인 모비디우스는 지난해 7월 USB 모양의 인공지능 가속기를 선보이기도 했다.

인공지능 가속기가 활용될 수 있는 분야도 다양하다.

'인공지능 비서'와도 같은 인공지능 스피커 서버에 인공지능 가속 솔루션이 적용되면 스피커가 반응하고 대답하는 시간이 빨라진다. 기업 입장에서는 같은 시간에 더 많은 대답을 할 수 있게 된다.

보안 서비스 영역에 적용되면 좀 더 상세한 주변 환경 분석과 대응책을 찾을 수도 있다.

SK텔레콤은 이번에 선보인 인공지능 가속 솔루션 외에도 인공지능 연산 속도와 전력 효율성을 향상하는 다양한 솔루션을 추가로 개발한다는 계획이다.

박진효 SK텔레콤 ICT기술원장은 "2년간의 연구·개발 기간을 거쳐 인공지능 가속 솔루션을 상용화하는 데까지 성공했다"며 "세계 최고 수준의 인공지능 기술 경쟁력을 확보하겠다"고 강조했다.

하선영·권유진 기자 dynamic@joongang.co.kr