세일즈포스 ‘AI 시대의 고객경험 현황’ 보고서
15일 세일즈포스의 'AI 시대의 고객 경험 현황' 보고서에 따르면 지난해 전 세계 응답자 중 42%만이 기업이 AI를 윤리적으로 사용할 것이라고 신뢰하고 있는 것으로 조사됐다. 이는 2023년의 58%에서 크게 감소한 수치다. 이번 보고서는 전 세계 18개국 1만6500명 이상의 소비자와 비즈니스 구매자를 대상으로 진행한 연구를 기반으로 작성됐다.
특히 소비자의 72%는 AI와 소통하는 과정에서 AI 에이전트가 인간과 협력하고 있는지, 혹은 독립적으로 작동하고 있는지를 아는 것이 매우 중요하다고 응답했다. 또 고객의 71%는 AI가 제시한 결과물을 사람이 검증하는 과정을 거쳐야 신뢰할 수 있다고 답했다.
AI 기술이 금융 및 건강 분야에 도입되고 있음에도 불구하고 이들 분야에서 AI의 역할은 아직 보조적 수준에 머물고 있다. 세일즈포스의 연구에 따르면 AI가 고도의 판단력과 윤리가 요구되는 작업을 처리하는 것에 대해 불편함을 느낀다는 응답이 다수였다.
낮은 위험을 동반하는 일정 조정이나 콘텐츠 생성 등 단순 업무에서는 AI에 대한 신뢰가 비교적 높은 반면 금융 자문이나 건강 상담등 복잡한 결정을 내리는 과정에서는 인간의 직관과 전문성이 여전히 중요한 요소로 작용하고 있는 것이다.
반면 개인화된 서비스는 개선돼 응답자의 73%가 기업이 자신들의 특성을 이해하고 있다고 평가해 전년 대비 34%포인트(p) 증가했다. 그러나 기업의 데이터 활용이 자신에게 도움이 된다고 생각하는 비율은 49%로 하락했으며, 개인정보 보호에 민감하다는 응답은 71%로 높아졌다. 이는 데이터 활용과 개인정보 보호 간 균형 유지가 기업의 주요 과제임을 시사한다.
응답자들은 기업 신뢰도 향상을 위해 △AI 활용의 투명성(42%) △결과물에 대한 인간의 검증(35%) △사용자 제어 강화(32%) △결과물의 설명 가능성(31%)이 필요하다고 지적했다.
AI에 대한 장기 전망은 긍정적이었다. 응답자의 49%는 향후 10년 내 AI가 인간 수준의 능력을 갖출 것으로 예상했으며, 특히 Z세대와 밀레니얼 세대는 자율형 AI 에이전트를 긍정적으로 평가했다. 이 중 43%는 AI 에이전트를 통해 고객경험이 개선됐다고 응답했다. 하지만 의료 상담(44%)이나 재정적 결정(58%)과 같은 전문적인 영역에서는 여전히 인간과의 상호작용을 선호하는 경향이 뚜렷했다.
손부한 세일즈포스코리아 대표는 "기업이 AI를 윤리적이고 투명하게 활용하는 것이 신뢰와 경쟁력 확보의 핵심 요소로 자리 잡고 있다"며 "세일즈포스는 신뢰 기반의 고객경험 혁신을 위해 윤리적 AI 활용과 개인정보 보호에 최선을 다할 것"이라고 말했다.
유진아기자 gnyu4@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
