SK텔레콤은 고객센터 AI 상담 업무 지원 시스템을 지난달 중순부터 단계적으로 열어 한달여간 베타 서비스를 운영했다고 18일 밝혔다.
SKT는 지난 1년여 간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고 통신 관련 데이터를 활용한 모델 튜닝을 진행했다. 또 고객센터 상담 전문가 수십명이 참여해 텔코 LLM 성능 향상을 위한 학습 데이터를 구축했다. 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들었다.
또 LLM이 질문에 가장 정확하고 구체적인 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색, LLM에게 제공하고 답변 품질을 증강시키는 검색증강생성(RAG)도 개발·적용했다. 텍스트를 넘어 이미지를 이해할 수 있는 LMM도 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했다.
우선 텔코 LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 안내할 수 있도록 지원한다. 이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 찾을 필요 없이 '퍼플렉시티'나 '챗GPT'처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 이를 통해 상담사들의 정보 탐색 시간을 단축시킨다.
지난 10월 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 사용해 안정화 시키고 있으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.
아울러 A.X LMM을 활용해 AI 서류 자동 처리 시스템도 구축한다. 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줘 증빙서류 확인에 소요되는 시간을 단축시킬 수 있을 것으로 회사 측은 기대했다. 지난달 23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 향후에는 서류 내용까지 자동으로 판독해 처리할 수 있을 예정이다.
내달에는 고객 상담 결과를 텔코 LLM을 활용해 자동으로 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다.
홍승태 SKT 고객가치혁신 담당은 "SKT는 텔코 LLM 기반 상담 업무 지원 시스템을 발판으로, 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다"고 말했다.김나인기자 silkni@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
