자체 개발 거대언어모델로 ‘AI 고객센터’ 여는 SKT

“텔코 LLM 적용한 시범 서비스 성공적”

내년부터는 모든 고객 상담 업무에 적용

상담 결과 분류·요약 시스템도 내달 가동

SK텔레콤이 자체 개발한 Telco LLM 등을 활용한 고객센터 AI 상담업무 지원 시스템을 지난 한 달여간 성공적으로 운영했다고 18일 밝혔다. SK텔레콤

SK텔레콤이 자체 개발한 텔코 거대언어모델(LLM) 등을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템의 시범 서비스를 지난달부터 한 달 여간 성공적으로 운영했다고 18일 밝혔다.

SK텔레콤은 앤스로픽 등과 협력해 다양한 통신 전문 지식을 학습한 통신업 특화 텔코 LLM을 개발해왔다. 고객센터 상담 전문가 수십명이 참여해 유용한 답변을 하는지 등을 평가하고, 부족하다는 평가를 받은 부분과 관련된 데이터를 추가 학습시키는 과정을 반복하며 성능을 고도화했다.

고객에게 다양한 답변을 빠르게 전하는 것이 목표다. 대표적인 기능은 상담사가 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있는 AI 지식 검색 도우미 서비스다. 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이, 챗GPT처럼 상담사가 자연어로 질문을 입력하면 AI가 정보를 검색해 정리해 준다. 내년부터 모든 고객 상담 업무에 전면 적용할 예정이다.

AI 서류 자동 처리 시스템도 구축했다. 문자, 이메일 등으로 보낸 사진·스캔 문서 등 다양한 형태의 서류를 AI가 자동으로 분류하고 처리해줌으로써 증빙 서류 확인에 걸리는 시간을 크게 단축할 수 있을 것으로 기대된다. 향후 서류 내용까지 자동으로 판독할 수 있도록 서비스를 고도화할 예정이다.

다음 달부터는 텔코 LLM으로 상담 결과를 분류·요약하는 상담 후속 업무 자동화 시스템을 오픈한다. 현재 상담 종료 후 상담 결과 정리에 평균 30초 정도 소요되지만, 이러한 업무를 줄이면 다른 고객과 상담을 더 늘릴 수 있을 것으로 보인다.

국내 주요 고객센터 중 LLM을 적용한 AI 상담 업무 지원 시스템은 처음이라고 SK텔레콤은 전했다. 지난 시범 운영 기간 동안 상담사들의 업무 효율이 높아지고, 경력이 짧은 상담사들의 고객 응대 부담을 덜 수 있었다고 한다. 홍승태 SK텔레콤 고객가치혁신 담당은 “SK텔레콤은 텔코 LLM 기반 상담 업무 지원 시스템을 발판으로 다양한 AI 기술을 고객 상담 업무에 활용해 고객센터 상담 서비스에서 한 단계 더 도약하겠다”고 밝혔다.

배문규 기자 sobbell@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 짧게 살고 천천히 죽는 ‘옷의 생애’를 게임으로!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지