[현장에서]왜 SK텔레콤은 AI 연산 가속기를 직접 만들었을까

[이데일리 김현아 기자] “엔비디아나 인텔처럼 인공지능(AI)용 프로세서를 팔기 위한 건 아닙니다.”

“머신러닝 인프라랩에 몇 명이 일하는지, 지금까지 AI서비스 ‘누구’에 AI 연산 가속기가 있었는지 없었는지는 기밀입니다.”

2년 전 SK텔레콤에 합류해 ‘AIX’라는 인공지능 연산 가속기를 개발한 정무경 머신러닝 인프라랩(Ml.infra.Lab)장은 많은 걸 숨겼다. 그는 한국전자통신연구원과 삼성전자에서 프로세서 설계를 담당한 경력이 있다.

정무경 랩장은 21일 기자들에게 SK텔레콤이 자체 순수 기술로 AI 연산 가속기를 개발해 ‘누구’에 적용했다고 밝히면서도, 기자들의 궁금증에는 입을 다물었다.

왜 그래야만 했을까. 그는 “‘누구’가 서비스되는 데이터센터의 설계는 비밀이기 때문”이라면서 “전 세계적으로 자사 AI서비스의 빠른 연산과 응답에 도움을 주는 가속기에 대해 자세히 밝히는 기업은 없다”고 답했다.

하지만 SK텔레콤이 이날 공식 보도자료를 내고 ‘누구’에 AIX를 적용했더니 서버 증설 없이도 ‘누구’의 서비스 용량이 5배 늘었고, 연산처리 속도도 20배 빨라졌다고 밝힌 터라 수긍하기 어려웠다.

지금까지 ‘누구’에 어떤 회사 AI 가속기를 써왔는지는 못 밝혀도, 이번이 첫 AI 가속기 적용인지 아닌지 정도는 공개해야 SK텔레콤 발표를 신뢰할 수 있기 때문이다.

이날 기자 설명회 분위기를 빼고 나면 통신회사 SK텔레콤이 직접 AI 연산 가속기를 개발한 이유는 짐작이 간다. AI 사용자가 늘고 금융·보안·쇼핑·인터넷 검색·자율주행차 등으로 확대되면서 처리해야 할 데이터도 폭증하고 있기 때문이다.

AI 가속기는 인공지능 알고리즘(딥러닝), 인공지능 학습 데이터(빅데이터)와 함께 대규모 서버 증설 없이도 데이터 수집과 처리를 효과적으로 수행하는 핵심기술이다.

그래서 엔비디아나 인텔 같은 전통적인 프로세서 업체는 물론 구글, 페이스북, 아마존, 바이두, 알리바바 등 소위 서비스 기업들도 AI 연산 가속기를 개발하고 있다.

정 랩장은 “최근에는 CPU나 그래픽 처리에 특화된 GPU보다는 딥러닝 전용 하드웨어인 NPU가 주목받는다”면서 “SK텔레콤이 개발한 AIX도 NPU개념”이라고 설명했다.

SK텔레콤이 개발한 AIX(AI Inference Accelerator)는 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 그런데 SK텔레콤은 AI의 대규모 연산처리에 있어 학습보다는 추론에, 연산처리 위치는 스마트폰 같은 퍼스널 기기보다는 데이터센터에 관심을 두고 있다. 즉 우리집에 AI스피커 ‘누구’가 있더라도 누구에게 “오늘의 날씨는 어때?”라고 물으면 SK텔레콤 데이터센터까지 와서 해당 데이터가 처리되는 것이다.

정무경 랩장은 “5G(3.5GHz, 28GHz)주파수 경매가 끝났는데 5G가 상용화되면 초저지연 통신이 가능해져 누구의 응답속도가 훨씬 빨라질 것”이라며 “AIX역시 그런 개념으로 개발하고 있다”고 설명했다.

또 “엔비디아나 인텔 등과 직접 비교는 어렵지만 그런 범용 AI가속기와 달리 우리 것은 우리 서비스에 최적화돼 있다”며 “SK텔레콤을 비롯한 그룹차원에서 진행되는 AI서비스를 효율화하는 기술 인프라를 제공하겠다”고 부연했다.

다만, SK그룹내 AI인프라 효율화외에 소비자들이 AI가속기를 이용한 초저지연 서비스의 혜택을 체감하는 시기에 대해서는 “더 고도화된 AI서비스를 제공하는 시점이 될 것”이라고만 밝혀 말을 아꼈다.

SK텔레콤은 2018년 AI연산 가속기 ‘AIX 1.0’을 개발한 데 이어, 2020년까지 지식기반 대화형 서비스가 가능한 ‘AIX 3.0’을 개발완료한다는 목표다.