세일즈포스 제공

세일즈포스가 인공지능(AI) 활용이 소비자 신뢰도에 미치는 영향과 성공적인 활용의 핵심 과제를 분석한 ‘AI 시대의 고객경험 현황(State of the AI Connected Customer) 보고서’를 발표했다고 15일 밝혔다.

이번 보고서는 전 세계 18개국 1만6500명 이상의 소비자와 비즈니스 구매자를 대상으로 진행한 연구조사를 바탕으로 작성됐다. 보고서에 따르면, 전체 응답자의 71%가 1년 전보다 기업에 대한 신뢰도가 낮아졌다고 응답했으며, 윤리적 인공지능(AI) 활용에 대한 신뢰도는 전년 대비 16%포인트(p) 하락한 42%로 집계됐다.

반면, 개인화된 서비스는 개선돼 응답자의 73%가 기업이 자신들의 특성을 이해하고 있다고 평가해 전년 대비 34%p 증가했다. 그러나 기업의 데이터 활용이 자신에게 도움이 된다고 생각하는 비율은 49%로 하락했으며, 개인정보 보호에 민감하다는 응답은 71%로 높아졌다. 이는 데이터 활용과 개인정보 보호 간 균형 유지가 기업의 주요 과제임을 시사한다.

응답자들은 기업 신뢰도 향상을 위해 ▲AI 활용의 투명성(42%) ▲결과물에 대한 인간의 검증(35%) ▲사용자 제어 강화(32%) ▲결과물의 설명 가능성(31%)이 필요하다고 지적했으며 ▲71%는 AI 결과물이 인간에 의해 검증돼야 한다고 답했다.

AI에 대한 장기 전망은 긍정적이었다. 응답자의 49%는 향후 10년 내 AI가 인간 수준의 능력을 갖출 것으로 예상했으며, 특히 Z세대와 밀레니얼 세대는 자율형 AI 에이전트를 긍정적으로 평가했다. 이 중 43%는 AI 에이전트를 통해 고객경험이 개선됐다고 응답했다. 하지만 의료 상담(44%)이나 재정적 결정(58%)과 같은 전문적인 영역에서는 여전히 인간과의 상호작용을 선호하는 경향이 뚜렷했다.

손부한 세일즈포스코리아 대표는 “기업이 AI를 윤리적이고 투명하게 활용하는 것이 신뢰와 경쟁력 확보의 핵심 요소로 자리 잡고 있다”며 “세일즈포스는 신뢰 기반의 고객경험 혁신을 위해 윤리적 AI 활용과 개인정보 보호에 최선을 다할 것”이라고 말했다.