인공 지능(AI)은 모든 업계의 비즈니스 기능에 영향을 미치고 있으며 고객 경험도 예외는 아닙니다. ServiceNow CX 추세 보고서에 따르면, CX 리더의 거의 절반(47%)이 조직에서 임시 AI 도구 구현에 참여하고 있다고 답했습니다.
AI의 효과를 극대화하는 방법은 여러 가지가 있지만, CX에서의 AI 윤리와 관련된 중요한 고려 사항도 존재합니다. 효율성 향상과 고객 서비스 개선 등의 수많은 이점들 사이에서 이러한 우려 사항을 간과해서는 안 됩니다.
최근에 등장한 생성형 AI는 꽤 새롭게 느껴지지만 AI를 윤리적으로 사용하는 방법을 정의하는 작업은 이미 상당 부분 진행되었습니다. 일례로, 미국 백악관에서는 2022년에 AI 권리 헌장 청사진을 만들었습니다. 백악관의 강령은 AI의 윤리적 사용을 위한 지침으로 활용되고 있으며, 여기에는 다음이 포함됩니다.
- 안전하고 효과적인 시스템: AI 시스템은 안전, 효과 및 위험 및 유해성의 완화를 위해 다양한 전문가로부터 적절한 의견을 받아서 만들어야 합니다.
- 알고리즘 차별 방지: 자동화된 시스템은 차별과 부당한 대우를 방지할 수 있도록 설계되어야 합니다.
- 데이터 개인정보 보호: 도구는 부적절한 데이터 관행에 대응하는 보호 기능을 내장해야 하며, 사용자는 회사가 본인의 개인 데이터를 사용하는 방식을 통제해야 합니다.
- 고지와 설명: 자동화된 시스템의 사용은 사용자에게 공개되어야 하며, 사용자에게 미치는 영향과 그 이유를 명확하게 설명해야 합니다.
- 인적 대안, 고려 사항 및 대체 방안: 사용자가 도움을 받기 위해 인간에게 접근할 수 있는 옵션이 마련되어 있어야 합니다.
이 청사진을 따르는 것은 최선의 윤리적 관행일 뿐만 아니라 고객의 신뢰와 충성도를 보장하는 최선의 방법이기도 합니다.
CX 리더들은 AI와 생성형 AI가 여러 KPI에 걸쳐 비즈니스 가치를 창출하는 가장 중요한 두 가지 동인이라고 답했습니다. 특히, 비용, 해결 시간, 고객 노력 및 케이스 볼륨의 감소가 두드러집니다. ServiceNow CX 추세 데이터에 따르면, 리더들이 AI가 제공하는 비즈니스 가치가 가장 큰 것으로 인식하는 영역은 비용 절감입니다. CX 리더의 28%는 AI가 비용 절감 효과를 가져왔다고 답했고, 26%는 생성형 AI에 대해서도 같은 의견을 밝혔습니다.
최근 발간된 Impact AI: 뱅킹 부문의 AI 현황 보고서는 12개국 1,125명의 은행 IT 리더를 대상으로 실시한 설문조사 결과를 바탕으로, 소수의 '선두주자'들이 AI를 활용하여 고객 신뢰를 높이고 더욱 긍정적인 경험을 제공하고 있음을 보여줍니다. 이러한 선두주자들은 비용 절감부터 매출 증대, 생산성 향상까지 거의 모든 KPI에 영향을 미쳤습니다.
하지만 비윤리적인 AI 사용이나 불만족스러운 고객 경험을 제공하는 AI로 인해 이러한 이점이 상쇄될 수 있으므로, AI를 올바르게 사용하는 것이 중요합니다.
효율성 향상이 AI의 가장 큰 이점 중 하나라는 사실은 놀랍지 않습니다. AI는 반복적인 작업을 자동화하고 데이터를 더 빠르게 추적 및 분석하며 직원들이 일상적인 작업이 아닌 고객 문제를 해결하는 데 집중할 수 있도록 하여 지원 팀의 일상 워크플로우와 생산성을 혁신할 수 있습니다.
AI를 활용하면 고객 경험의 효율성 또한 높아집니다. 팀은 예측 분석을 사용하여 고객의 요구를 더욱 정확하게 예측할 수 있으며, 인간적인 면이 필요하지 않은 경우에는 AI 에이전트가 개입할 수 있습니다. 이러한 '에이전트'는 고객 서비스 상호작용을 처리하고 문제를 해결할 수 있는 자율 시스템으로, 짧은 대기 시간에 고객에게 신속한 해결책을 제시해 주므로 인간은 더 중요한 업무에 집중할 수 있게 됩니다.
AI는 감정 분석을 제공하고 감성 인텔리전스로 훈련된 챗봇을 활용할 수 있도록 지원하므로 공감 능력을 향상시킬 수 있습니다. 이를 통해 고객은 로봇에게 맡겨진 느낌을 받는 대신 실제 인간과 유사한 경험을 할 수 있습니다.
AI 에이전트는 흔히 발생하는 케이스를 자율적으로 처리하고 해결 속도를 높이며 인간은 전략적 이니셔티브에 집중할 수 있도록 함으로써 공감할 수 있는 고객 경험을 제공할 수 있습니다. 고객은 에이전트와 강력하면서도 개인적인 상호작용을 경험하고, 지원을 받고 있다는 느낌을 받게 되는데, 이는 탁월한 고객 서비스의 중요한 측면입니다.
대부분의 고객이 더 빠르고 효율적인 경험을 선호하지만, AI 역시 위험 요소를 지니고 있으며, 이중 상당수는 AI 도입의 과제로 이어집니다. 고객이 갖는 가장 큰 걱정은 예상되는 개인정보 보호 및 보안 문제가 아닌 품질과 노력에 관한 것입니다.
ServiceNow의 CX 트렌드에 따르면 가장 중요한 고객 문제는 다음과 같습니다.
- 미묘한 고객 요구 사항을 파악하기 어려운 AI 도구나 챗봇(고객의 60%)
- 복잡하고 미묘한 케이스를 처리하는 역량의 제한(57%)
- 인간적인 상호 작용 부족(56%)
- 더 높은 오류 가능성(54%)
- 개인정보 보호 및 데이터 보안 문제(36%)
- 고객 서비스 상담원 대체(36%)
궁극적으로 기업은 비즈니스 내 AI의 윤리에 집중하여 이러한 우려 중 일부를 해결할 수 있습니다.
고객 대면 업무에 AI를 사용하는 경우 개인정보 보호 및 데이터 보안과 관련된 윤리적 영향을 인지해야 합니다. 강력한 보안과 개인 정보 보호를 보장하는 가장 좋은 방법은 데이터 수집을 최소화하고 AI 도구에 필요한 필수 데이터만 수집하는 것입니다. 또한 가능한 한 많은 데이터를 익명화하고 개인 식별 정보를 인코딩 또는 삭제하면 사용자의 개인정보를 더 안전하게 보호할 수 있습니다.
초기 AI 가이드라인을 설정할 때 이러한 문제에 초점을 맞추고, 시스템을 지속적으로 감사하고 개선하면서 이러한 문제를 염두에 두세요. 또한 고객의 개인정보 보호 및 보안 정책을 고객에게 제공되는 정보에 투명하게 포함시키는 것도 좋습니다. 이를 통해 고객의 신뢰를 강화하는 동시에 준수 요구 사항을 충족할 수 있습니다.
윤리적 AI 전략을 채택하기 위한 첫 번째 단계는 AI 사용에 대한 가이드라인과 정책을 수립하는 것입니다.
특히 고객 데이터 처리 시 허용 가능한 AI 활용 범위와 직원들에게 기대하는 사항을 명시하세요. 다음과 같은 직장 내 AI 윤리의 예시와 관련된 가이드라인을 작성합니다.
- 고객의 개인정보 보호를 보장하는 베스트 프랙티스를 확립합니다.
- 직원들이 고객 데이터를 처리할 수 있는 방식과 처리할 수 없는 방식을 결정합니다.
- 고객이 AI 정책을 인지하고, 이에 부합하게 행동하며, 이에 동의하게 합니다.
모든 직원 및 고객에게 AI를 적용하기 전에 내부 AI 정책을 팀에 확실하게 교육해야 합니다. 요구 사항과 기대치를 이해하지 못한 직원은 기업의 윤리적 기준에 맞지 않는 방식으로 AI를 사용할 위험이 있습니다.
리더는 정기적인 AI 윤리 교육과 데이터 보안 및 개인정보 보호에 대한 교육을 진행해야 합니다. 또한 정기적인 직원 개발 및 교육 프로그램의 일환으로 직원들은 AI 도구를 구체적인 직무에 사용하는 방법에 대한 교육을 받아야 합니다.
AI는 사람들이 일하는 방식을 변화시키면서 인류의 르네상스를 이끌어내고 있습니다. 하지만 인간이 AI의 혜택을 누리는 방식을 고민하는 것도 중요합니다. 내부 AI 담당자 형태가 가장 효과적인 것으로 보입니다. 기업은 AI 담당자에게 기업의 AI 활용에 대한 책임을 위임하고 AI 규정 준수, AI 베스트 프랙티스, 그리고 무엇보다 AI 윤리 감독 책임을 부여해야 합니다.
전문 지식을 갖춘 사람을 고용하면 조직 전반에 걸쳐 AI 관행을 보다 일관되게 유지할 수 있습니다. 이 담당자는 기술 팀과 비즈니스 팀 간의 격차를 해소하고 협력을 보장하는 가교 역할도 수행할 수 있습니다.
AI의 사용 방법과 시점에 대해 직원들에게 투명하게 공개합니다. 기업이 직원에게 더 투명할수록 직원들의 충성도와 참여도는 더 높아집니다. 모든 직원이 각자의 직무에서 AI의 사용 방식을 이해하고 윤리적 고려사항도 명확하게 이해하게 하세요.
그런 다음, 피드백을 수집하고 이를 반복하여 개선합니다. 직원 설문 조사를 수행하거나 회의 또는 포커스 그룹에서 직원의 직접적인 피드백을 장려하세요. 시간이 지나면 이 피드백을 바탕으로 필요에 따라 AI 관행을 조정합니다.
AI는 기업 고객 경험 전략의 중요한 부분일 수 있지만, 고객의 신뢰를 유지하기 위해서는 이러한 전략을 투명하게 사용하는 것이 중요합니다. 고객이 AI와 상호 작용할 수 있는 방법에 대한 사전 정보를 제공하면 기업은 고객 신뢰도를 높이고 AI와의 경험을 더욱 긍정적으로 만들 수 있습니다.
한 가지 베스트 프랙티스는 기업이 AI 정책을 온라인에 공개적으로 게시하는 것입니다. 이러한 정책에는 고객이 프로세스 중 AI를 접할 수 있는 상황에 고객 데이터를 어떻게 활용할 것인지, 그리고 예상되는 결과를 어떻게 달성할 수 있는지를 명시할 수 있습니다. 또한 고객이 AI를 사용하지 않고 대신 인간과 상호작용하는 것을 선택할 수 있는 방법을 설명하는 것도 도움이 될 수 있습니다.
정기적으로 편향성 테스트를 실시하면 도구가 편향된 정보를 바탕으로 행동할 가능성이 줄어듭니다.
시간이 지나고 나서 이 테스트를 수행하려면 모든 AI 도구에 대한 정기적인 감사를 실행하세요. 문제의 소지가 있는 정보를 발견하면 도구의 성능이 향상될 때까지 지속적으로 조정합니다. 도구가 모든 인구 통계를 정확하게 반영하고 부정확하거나 차별적인 결과를 초래하지 않도록 다양한 데이터 세트를 사용하세요.
AI는 물론 정책과 도구도 고정되어서는 안 됩니다. 리더들은 다양한 방식으로 AI 플랫폼을 활용하지만, 어떤 플랫폼을 선택하든 체계적으로 문서화하고 지속적으로 관리해야 합니다. AI 시스템을 지속적으로 점검하고 업데이트하면 윤리적 문제를 방지하는 데 도움이 됩니다.
이를 위해 도구를 정기적으로 검토하고 정확도와 성능 향상을 위해 재훈련할 준비를 해야 합니다. 또한 AI 기술이 발전하고 변화함에 따라 회사 정책을 조정하는 것도 도움이 됩니다.
CX에서의 AI 윤리를 이해하는 것은 AI를 사용하여 회사의 고객 서비스 관리를 혁신하는 첫 번째 단계입니다.
ServiceNow의 ServiceNow AI Platform 데모를 통해 윤리적인 AI를 CX 팀에 도입하는 방법을 알아볼 준비가 되셨나요? 지금 바로 문의하세요.
다음은 CX에서의 AI 윤리에 대해 가장 자주 묻는 질문입니다.
AI는 생산성과 효율성을 높여 고객 경험 전략을 개선하는 여러 가지 방법을 제공하지만 이러한 도구는 윤리적으로 사용해야 합니다. 윤리적 AI 사용에 대한 가이드라인을 확립하는 데서 시작하세요. 모든 직원이 이러한 정책에 대해 인지하고 교육받도록 하고 정기적으로 피드백을 구하세요. AI 담당자를 고용하여 시스템과 정책을 감독하는 것이 도움이 될 수 있습니다. 고객이 AI와의 상호작용 방식과 개인정보 보호 방식을 이해할 수 있어야 합니다. 시스템의 편향성을 테스트하고, 감사를 실시하고, 시간이 지나면 다시 학습시키세요.
AI를 사용하면 그 어느 때보다 손쉽게 우수한 고객 서비스를 제공할 수 있습니다. AI 도구는 지루한 수작업 중 일부를 처리하여 고객 서비스 에이전트가 더 까다롭고 의미 있는 고객 업무를 처리할 수 있도록 지원합니다. 또한, AI는 종종 고객에게 직접 더 빠른 해결책을 제공하여 문제 해결 시간과 대기 시간을 크게 단축할 수도 있습니다.
AI는 고객 만족도를 높이면서 해결 시간과 비용을 줄이는 등 여러 가지 방법으로 CX를 개선할 수 있습니다. AI 에이전트는 고객 데이터를 평가하여 맞춤형 추천과 연중무휴 지원을 제공할 수 있습니다. 또한 AI는 고객 감정을 탐지하기 위해 감정 분석을 수행할 수 있으며, 이를 통해 에이전트는 문제를 보다 효과적으로 해결할 수 있습니다. 또한 반복적인 수작업도 자동화합니다. 이러한 개선은 고객 경험을 향상시키는 동시에 에이전트의 일상적인 워크플로우를 더욱 수월하게 만들어 줍니다.