세일즈포스가 기업의 AI 활용이 소비자 신뢰도에 미치는 영향과 성공적인 AI 활용을 위한 핵심 과제를 분석한 'AI 시대의 고객경험 현황(State of the AI Connected Customer) 보고서’를 발표했다.

세일즈포스가 발표한 이번 보고서는 전 세계 18개국 16,500명 이상의 소비자와 비즈니스 구매자를 대상으로 진행한 연구조사를 기반으로 작성되었다. 보고서에 따르면 전체 응답자의 71%가 1년 전과 비교해 기업에 대한 신뢰도가 하락했다고 응답했다. 응답자의 61%는 AI 기술의 발전으로 인해 기업 신뢰도가 더욱 중요해졌다고 답했지만, 기업의 윤리적 AI 활용에 대한 신뢰도는 2023년 58%에서 2024년 42%로 큰 폭으로 하락 추이를 보였다.

반면, 개인화된 서비스 측면에서는 진전이 있었다. 기업이 고객 개개인의 특성을 이해하고 있다고 느끼는 소비자 비율은 2023년 39%에서 2024년 73%로 크게 증가했다. 그러나 동시에 기업의 데이터 활용이 자신에게 도움이 된다고 생각하는 비율은 2022년 60%에서 2024년 49%로 하락했으며, 응답자의 71%는 개인정보 보호에 더욱 민감해졌다고 응답했다. 이는 데이터 활용과 개인정보 보호 간의 균형을 맞추는 것이 기업의 중요한 과제임을 시사한다.

이번 연구조사 결과에 따르면, 기업의 AI 활용에 대한 소비자들의 기대치 또한 높아졌다. 특히 응답자들은 기업의 신뢰도 향상을 위한 요인으로 ◊AI 활용의 투명성(42%) ◊결과물에 대한 인간의 검증(35%) ◊AI 사용량에 대한 사용자 제어 강화(32%) ◊결과물의 설명 가능성(31%) 등을 지목했으며, 71%의 응답자가 AI의 결과물을 사람이 검증하는 것이 중요하다고 응답해, AI 활용에 있어 기업이 투명하고 명확한 기준을 제시해야 할 필요성이 높아진 것으로 나타났다.

그럼에도 AI의 장기 전망에 대해서는 긍정적인 의견이 우세했다. 49%의 응답자가 향후 10년 내 AI가 인간의 능력과 비슷한 수준에 도달할 것으로 예상했다. 특히 Z세대와 밀레니얼 세대에서 사람을 대신해 행동할 수 있는 능력을 갖춘 자율형 AI 에이전트에 대한 긍정적인 반응이 두드러졌다. 이들 중 43%는 AI 에이전트를 통해 고객경험의 수준이 향상되었다고 평가했으며, 이는 베이비부머 세대(32%)와 큰 차이를 보였다.

그러나 AI 에이전트의 실제 활용에 있어서는 업무 특성에 따른 선호도 차이가 뚜렷했다. 일정 예약(40%)이나 개인화된 콘텐츠 제작(38%) 등 단순 업무에는 긍정적이었으나, 재정적인 결정(58%)이나 의료 상담(44%) 등 전문성이 필요한 영역에서는 불편함을 느끼고 있다고 응답한 비율이 상대적으로 높았다.

또한 응답자의 72%는 AI 에이전트와 대화 중이라는 사실을 인지하고 싶어했으며, 46%는 필요할 때 사람과 연결될 수 있는 경로의 필요성을 강조했다. 45%는 AI가 의사결정을 내린 근거가 명확히 설명될 때 더 신뢰할 수 있다고 응답했다. 이에 따라 AI 에이전트가 AI의 한계를 보완해 인간과 적절히 상호작용하는 것이 고객 신뢰 형성에 중요한 요소이며, 복잡하거나 민감한 상황에서 투명성과 안정성을 보장하는 것이 시장 내 경쟁우위를 확보하기 위한 핵심 요인으로 작용할 것으로 나타났다.

세일즈포스 코리아 손부한 대표는 “이번 보고서에 따르면 기업이 AI를 활용함에 있어 윤리적이고 투명한 방식을 채택하는 것이 기업 경쟁력 확보를 위한 핵심 요소이며, 특히 개인정보보호와 데이터 활용 사이의 균형을 맞추는 것이 중요한 과제로 급부상하고 있다”라며 “세일즈포스는 윤리적인 환경에서의 AI 활용은 물론, 신뢰에 기반한 고객경험 혁신을 지원하기 위한 노력을 아끼지 않을 것이다”라고 말했다.

한편, 세일즈포스는 자율형 AI 에이전트 플랫폼 '에이전트포스(Agentforce)'를 통해 기업의 안전한 AI 에이전트 활용을 지원하고 있다. 에이전트포스는 신뢰할 수 있는 CRM 데이터를 기반으로 맞춤형 에이전트를 설계하여 다양한 비즈니스 상황에 자율적으로 대응하며, 필요한 경우 직원에게 업무를 이관하는 기능을 제공한다. 또한 세일즈포스의 AI 아키텍처인 트러스트 레이어를 통해 기업 데이터를 안전하게 보호하며, 명확한 지침과 규칙 설정으로 AI 에이전트의 행동을 관리해 안정적이고 효율적인 운영을 보장한다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★