개막 앞둔 'CES 2024'…키 포인트는 '온디바이스 AI'[CES2024]

이종민 SKT AI 담당 현장 간담회

CES 2024 핵심 화두는 '온디바이스 AI'

네트워크·클라우드 연결 필요없어 보안성 강화, 비용 저렴

"프라이버시 등 기존 제약 해소, 다양한 응용 사례 창출"

7일(현지시간) 미국 라스베가스 시저스팰리스호텔에서 개최된 SK간담회에서 이종민 SK텔레콤 AI 담당이 질문에 대해 답변하고 있다.(사진= SK)

[이데일리 김가은 기자] “인공지능(AI)에 의한 혁신과 AI를 위한 혁신. 올해 CES에서는 이를 가속하기 위한 온디바이스 AI가 핵심 포인트가 될 것으로 예상됩니다”

이종민 SK텔레콤(017670) AI 담당은 7일(현지시간) 미국 라스베이거스 시저스 팰리스 호텔에서 열린 SK 간담회에서 ‘CES 2024’의 최대 화두로 ‘온디바이스 AI’를 꼽았다. 기술적 측면에서는 AI를 활용해 기존 산업을 혁신하는 것과 AI 자체를 잘하기 위한 기술이 대거 등장할 것이라 전망했다.

온디바이스 AI는 모바일과 가전제품 등 기기 자체에서 AI 서비스를 구현하는 기술이다. 클라우드 또는 인터넷 연결없이도 스마트폰, 노트북 등에서 AI 서비스를 쓸 수 있는 점이 핵심이다.

데이터를 기기에서 직접 처리해 응답 속도가 빠른 것은 물론, 개인정보 보호와 보안성도 강화된다. 특히 서비스를 뒷받침할 서버나 클라우드 등 대규모 인프라가 필요하지 않아 비용 또한 저렴하다.

클라우드 상에서 구동되는 AI에 비해 전반적인 성능은 낮을 수 밖에 없지만, 각 기업에 최적화된 AI 모델과 서비스를 안전하고 저렴하게 구축할 수 있어 다양한 산업에서 활용될 전망이다.

이 담당은 “온디바이스 AI 기술 등장 이전에는 AI를 응용하고 개발함에 있어서 프라이버시 이슈와 같은 다양한 제약이 있었다”며 “과거에는 음성인식이나 번역, 텍스트 생성 등이 네트워크 연결없이는 불가능했지만, 기기 자체에서 AI를 구현하게 되면 다양한 문제점이 해결돼 다양한 응용 사례가 나올 것”이라고 강조했다.

AI를 잘하기 위한 대표적 기술로는 글로벌 반도체 기업 엔비디아의 그래픽처리장치(GPU)를 제시했다. 그는 “태생은 그래픽을 처리하기 위한 목적이지만 최근에는 AI 훈련과 추론 전용 칩이 나오기 시작했다”며 “AI를 실현하기 위한 연산 능력이 칩 안으로 들어오면서 온디바이스 AI 단계까지 갈 수 있었다”고 설명했다.

끝으로 그는 “어지간한 음성인식이나 코드 생성 등 여러 AI 기능이 이제는 온디바이스에서 충분히 돌아갈 수 있지 않을까 생각하고 있다”고 말했다.