人工知能 (AI) はあらゆる業界でビジネス機能を問わず影響を及ぼしており、カスタマーエクスペリエンスも例外ではありません。ServiceNow CX トレンドレポートによると、CX リーダーの約半数 (47%) が、所属組織は場当たり的な AI ツールの実装を行っていると回答しています。
AI の影響を最大化する方法はいくつかありますが、CX における AI の倫理について考慮すべき重要事項もあります。効率性とカスタマーサービスの向上による多くのメリットに紛れて、これらの懸念を見失わないことが必要です。
生成 AI の最新技術はつい最近登場したものですが、これまでにも AI を倫理的に使用する方法を定義するために多大な労力がすでに注がれています。たとえば、ホワイトハウスは 2022 年に「AI 権利章典の青写真」を策定しました。その原則は、AI の倫理的な使用を保証するための指針としての役割を果たし、以下の内容が含まれています。
- 安全で効果的なシステム：AI システムは、安全性と有効性を確保しリスクと有害性を軽減するために、多様な専門家から適切な情報を得て作成する必要があります。
- アルゴリズム由来の差別防止：自動化されたシステムは、差別や不当な扱いを回避するように設計する必要があります。
- データプライバシー：ツールにはデータの悪用に対する保護機能が組み込まれている必要があり、ユーザーは企業が個人データをどのように使用するかを制御できる必要があります。
- ユーザーへの通知と説明：自動化システムを使用していることをユーザーに開示し、それがどのようにユーザーに影響するのかと、その理由をわかりやすく明確に説明する必要があります。
- 人間による代替手段、考慮事項、フォールバック：ユーザーには、人間による支援にアクセスする選択肢が与えられる必要があります。
この青写真に従うことは、倫理面でのベストプラクティスに従うだけでなく、顧客の信頼とロイヤルティを確保するための最善策を取ることにもなります。
CX リーダーたちは、AI と生成 AI はビジネス価値を高める二大重要要因であると回答しており、その影響は複数の KPI におよびます。特に、コスト、解決時間、顧客の労力、ケース数の削減が顕著です。ServiceNow CX トレンドのデータによると、AI が最も大きなビジネス価値をもたらす分野としてリーダーが認識しているのはコスト削減であり、CX リーダーの 28% が AI によってコスト節減額が増えたと回答し、26% が生成 AI について同じ回答をしています。
最近公開された『Impact AI: The State of AI in Banking (銀行業界における AI の現状)』レポートでは、12 か国の銀行業の IT リーダー 1,125 人を対象に実施した調査から、少数の「先駆者」が AI を活用して顧客の信頼を高め、よりポジティブなエクスペリエンスを提供していることがわかりました。これらの先駆者は、コスト節減から収益の増加、生産性の向上まで、ほぼすべての KPI に影響を与えていました。
しかし、このようなメリットも、非倫理的な AI の使用や質の低いカスタマーエクスペリエンスを提供する AI によって帳消しになる可能性があるため、正しく使用することが重要です。
効率性の向上が AI の最大のメリットの 1 つであることは驚くに当たらないでしょう。1 つには、AI が反復的なタスクを自動化し、データの追跡と分析を迅速化し、従業員が定型的なタスクではなく顧客が抱える問題の解決に集中できるようにすることで、日常的なワークフローを変革してサポートチームの生産性を向上させることができます。
AI を使用することで、カスタマーエクスペリエンスの効率も向上します。チームは予測分析を使用して顧客のニーズをより適切に予測できるため、人間の手が不要な場合は AI エージェントが介入できます。これらの「エージェント」は、カスタマーサービスのやり取りに対応して問題を解決できる自律的システムであり、顧客にはできるだけ短い待ち時間で迅速なソリューションを提供でき、これにより、人間はより重要なタスクに注力することができます。
AI による感情分析を使用し、感情インテリジェンスでトレーニングされたチャットボットをユーザーが活用できるようにすることで、共感を高めることができます。これにより、顧客には本物の人間が相手をしているようなエクスペリエンスを提供でき、ロボット任せに格下げされたと感じさせません。
AI エージェントは、一般的なケースを自律的に処理し、解決を迅速化し、人間が戦略的イニシアチブに集中できるようにすることで、共感的なカスタマーエクスペリエンスを強化できます。顧客はエージェントと人間味のあるやり取りをし、サポートされているという感覚を持ってやり取りを終えることができます。この感覚は優れたカスタマーサービスの重要な側面です。
ほとんどの顧客は、より迅速で効率的なエクスペリエンスを望んでいますが、AI にもリスクがないわけではありません (その多くは AI 導入の課題にもつながります)。顧客にとって最大の懸念は、予想されているようなプライバシーやセキュリティに関するものではなく、品質と労力に関するものです。
ServiceNow の CX トレンドによると、顧客が抱える懸念事項の上位は次のとおりです。
- AI ツールやチャットボットが顧客のニーズのニュアンスを理解する難しさ (顧客の 60%)
- 複雑なケースやニュアンスを含んだケースへの対応能力の限界 (57%)
- 人間による介入の欠如 (56%)
- エラーの可能性の高さ (54%)
- プライバシーとデータセキュリティの問題 (36%)
- カスタマーサービスエージェントの仕事が奪われること (36%)
最終的に、これらの懸念のいくつかは、企業がビジネスにおける AI の倫理を重視することで対処できます。
顧客向けのタスクに AI を使用する場合は、プライバシーとデータセキュリティに関する倫理的な影響に注意してください。強力なセキュリティとプライバシーを確保するための最善の方法は、データ収集を最小限に抑え、AI ツールが必要とする不可欠なデータのみを収集することです。さらに、可能な限り多くのデータを匿名化 (個人を特定できる情報のエンコーディングまたは削除) することで、ユーザーのプライバシーをさらに保護できます。
初期の AI 指針を設定する際には、これらの懸念事項に焦点を当て、システムの監査と改善を継続する際にも常に念頭に置いてください。また、顧客向けのあらゆる情報にプライバシーポリシーとセキュリティポリシーを含めて透明性を確保することも有益です。これにより、顧客の信頼を固めるとともにコンプライアンス要件に準拠することもできます。
倫理的な AI 戦略を採用するための最初のステップは、AI の使用に関する指針とポリシーを作成することです。
許容可能な AI の使用と、特に顧客データを扱う際に従業員に求める行動の要点を示すようにしてください。職場における AI 倫理について、以下の例に沿って指針を策定します。
- 顧客のプライバシーを確保するためのベストプラクティスを確立する。
- 従業員が顧客データの取り扱いにおいてできることとできないことを決定する。
- 顧客が自社の AI ポリシーを認識し、従い、同意していることを確認する。
AI をすべての従業員と顧客に対して本稼働させる前に、社内の AI ポリシーについてチームに十分なトレーニングを行ってください。要件と期待事項を理解していないと、従業員が会社の倫理基準に合わない形で AI を使用するリスクがあります。
リーダーは、AI の倫理に関する定期的なトレーニングと、データセキュリティとプライバシーに関するトレーニングを促進する必要があります。さらに、従業員の能力開発とトレーニングの定期プログラムの一環として、従業員は各自のロールにおいて AI ツールを使用する方法に関するトレーニングを受ける必要があります。
AI は、働き方改革を起こすことで人間のルネッサンスの到来を告げていますが、人間が AI からどのような恩恵を受けることができるかを検討することも重要です。これが最もよく具現化されているのが、社内 AI コーディネーターという形です。企業で AI コーディネーターは、自社での AI の使用や、AI コンプライアンス、ベストプラクティス、そして最も重要なこととして AI 倫理を監督する責任を担います。
専門知識を持つ人材を採用することで、組織全体で AI の活用の一貫性を高めることができます。また、技術チームとビジネスチームの間のギャップを埋め、足並みを揃えることもできます。
AI をいつどのように使用するかについて、透明性の高い情報を従業員に開示します。従業員に対する透明性が高い組織ほど、従業員のロイヤルティとエンゲージメントが高まります。すべての従業員が各自のロールにおける AI の使用について理解し、倫理的な考慮事項についても明確に認識していることを確認します。
その後、フィードバックを収集し、それに基づいて改善を重ねます。従業員サーベイを実施するか、ミーティングやフォーカスグループで従業員から直接フィードバックを促します。時間の経過とともに、このフィードバックに基づいて必要に応じて AI の活用方法を適応させていきます。
AI は企業のカスタマーエクスペリエンス戦略に不可欠な要素となる可能性がありますが、顧客の信頼を維持するためには、AI の使用について透明性を保つことが重要です。顧客が AI とどのようにやり取りする可能性があるかについて事前に情報を提供することで、企業は顧客の信頼を高め、ビジネスでの AI の使用をよりポジティブなエクスペリエンスに変えます。
ベストプラクティスの 1 つは、企業が AI ポリシーをオンラインで公開することです。これらのポリシーでは、組織のプロセスにおいて顧客が AI に遭遇する可能性がある場合に組織がどのように顧客データを使用するかと、期待される成果の概要を示すことができます。また、顧客が AI の使用をオプトアウトし、代わりに人間とやり取りする方法を説明することも有用です。
定期的なバイアステストを行うことで、ツールが偏った情報に基づいて動作する可能性を低減できます。
このテストを経時的に実施するには、すべての AI ツールに定期的な監査を実施します。懸念のある情報が見つかった場合は、ツールのパフォーマンスが向上するまで調整を続けます。多様なデータセットを使用して、ツールがすべての人口属性を適切に反映し、不正確あるいは差別的な結果を生じさせないようにします。
AI が不変的なものではないのと同様に、ポリシーやツールも固定化されるべきではありません。リーダーはさまざまな方法で AI プラットフォームを使用していますが、何を選んだとしても、適切に文書化され、長期的に適切な状態に維持される必要があります。AI システムを常にチェックして更新することで、倫理的な問題を回避できます。
これを行うには、ツールの定期的なレビューを実施する頻度を設定し、精度とパフォーマンスを向上させるためにツールを再トレーニングする手順を整えます。AI テクノロジーが進化し、変化し続ける中で、会社のポリシーを適応させることも役立ちます。
CX における AI の倫理を理解することは、AI を使用して自社のカスタマーサービス管理を変革するための最初の一歩です。
ServiceNow の ServiceNow AI Platform のデモをご覧いただき、倫理的な AI を CX チームに導入する方法をご確認ください。今すぐお問い合わせください。
CX における AI の倫理について最もよく寄せられる質問をいくつかご紹介します。
AI は、生産性と効率性を向上させてカスタマーエクスペリエンス戦略を改善するいくつかの方法をもたらしていますが、これらのツールを倫理的に使用することが重要です。AI を倫理的に使用するための指針を確立することから始めましょう。すべての従業員が確実に、これらのポリシーを認識しトレーニングを受けるようにして、必ず定期的にフィードバックを求めてください。システムとポリシーを監督するための AI コーディネーターを雇用することも一助になります。顧客が確実に、AI とどのようにやり取りし、自身のプライバシーがどのように保護されているかを理解するようにします。システムにバイアスがないかテストし、時間の経過とともに監査と再トレーニングを必ず実施してください。
AI を活用することで、優れたカスタマーサービスを提供することがこれまで以上に容易にできるようになりました。AI ツールが単調な手動の作業を処理することで、カスタマーサービスエージェントはより困難で有意義な顧客タスクに対応できるようになります。さらに、AI は直接顧客に迅速な解決を提供できることも多いため、結果として解決時間と待ち時間が大幅に短縮されます。
AI は、解決時間の短縮とコストの削減をしながら顧客満足度を向上させるなど、いくつかの方法で CX を改善できます。AI Agents は顧客データを評価して、パーソナライズされた推奨事項を提示し、24 時間 365 日のサポートを提供できます。また、AI は感情分析を実施して顧客の感情を検出することもできるため、エージェントは問題により適切に対処できます。また、手動の作業や反復的なタスクを自動化することもできます。これらの改善により、カスタマーエクスペリエンスが向上し、エージェントの日常的なワークフローの負担も軽減されます。