SKT, '클로드·에이닷엑스' 적용 AI 고객센터 오픈

10월부터 고객 상담에 단계적 적용

지식검색·서류 자동 처리 기능 제공

SK텔레콤(017670)이 텔코(통신업) 특화 거대언어모델(LLM)과 거대멀티모달모델LMM)을 활용한 인공지능(AI) 고객센터를 본격 가동한다고 18일 밝혔다. 텔코 LLM은 앤트로픽의 '클로드'를, LMM은 자체 LLM인 '에이닷엑스'를 기반으로 구현됐다.

SK텔레콤 관계자는 "이번 AI 고객센터 오픈에 앞서 10월 중순부터 한 달여간 시범 운영을 진행, 성공적으로 테스트를 마쳤다"며 "고객센터 AI 상담 업무 지원 시스템을 국내 메이저 고객센터 중 최초로 오픈한 사례"라고 설명했다.

SK텔레콤은 지난 1년여 간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고 다양한 통신 관련 데이터를 활용한 모델 튜닝을 진행했다. 고객센터 상담 전문가 수십명이 참여해 텔코 LLM 성능 향상을 위한 다양한 학습 데이터를 구축했다. 또 이와 더불어 LLM이 질문에 가장 정확하고 구체적인 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색하고, 답변 품질을 향상시키는 '검색증강생성(RAG)'도 개발·적용 함으로써 신뢰도를 대폭 개선했다.

SK텔레콤은 텔코 LLM을 기반으로 'AI 지식 검색 도우미 서비스'를 개발했다. 이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 하나씩 찾을 필요 없이 '퍼플렉시티'나 'ChatGPT'처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 이를 통해 상담사들의 정보 탐색 시간을 단축시키고, 상담사 개인의 역량·경력과 무관하게 고품질 상담 서비스를 제공할 수 있게 됐다.

또 SK텔레콤은 텍스트를 넘어 다양한 이미지나 문서를 이해할 수 있는 통신업에 특화된 전용 에이닷엑스 LMM을 개발했다. 이를 활용해 AI 서류 자동 처리 시스템도 구축했다. 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진·스캔 문서 등을 AI로 자동 처리하고 있다.

홍승태 SK텔레콤 고객가치혁신 담당은 "SK텔레콤은 AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다"며 "SK텔레콤은 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다"고 밝혔다.

류석 기자 ryupro@sedaily.com
[ⓒ 서울경제, 무단 전재 및 재배포 금지]