5 aspects à prendre en compte pour renforcer la confiance en l’IA générative

Katie Schmidt, Senior Manager of AI/Machine Learning User Experience Research, a contribué à cet article de blog.

Des années d’étude sur l’expérience utilisateur (UX) et de feedback client ont montré que la confiance est essentielle au succès de l’IA. Et c’est d’autant plus important avec l’IA générative (GenAI).

Chez ServiceNow, nous savons que l’utilisation des fonctionnalités GenAI implique à un moment ou à un autre d’obtenir la confiance des personnes concernées : les administrateurs qui la configurent, les développeurs qui utilisent CodeAssist, les agents qui l’utilisent pour s’affranchir des tâches manuelles répétitives et les demandeurs qui recherchent des solutions rapides aux problèmes qu’ils rencontrent.

Les agents utilisent par exemple la Now Platform pour résoudre les tickets des demandeurs. C’est une formidable opportunité d’utiliser les fonctionnalités GenAI pour aider les agents à être plus productifs et à réduire les tâches répétitives (lesquelles entraînent souvent un turnover élevé).

Personne n’aime avoir l’impression que son travail se résume à gérer des personnes frustrées et en colère ou à copier-coller un article de base de connaissances dans une conversation parce qu’un client n’a pas trouvé ce qu’il cherchait. GenAI peut justement permettre aux agents de se concentrer sur des tâches plus intéressantes.

Nous faisons en sorte d’y parvenir en développant notamment des cas d’utilisation de GenAI dans tous les workflows. À l’aide de GenAI, notre nouvelle solution de résumé des tickets récapitule automatiquement les informations relatives à l’IT, aux RH et aux dossiers clients afin d’accélérer les délais de résolution, de réduire les processus manuels et de booster la productivité des agents.

Garder l’humain au cœur du processus

Malgré ses nombreux avantages, GenAI est source de préoccupations accrues en matière de sécurité, de réglementation, d’accès aux données, de confidentialité et de coût. Il faut également s’assurer qu’elle ne vienne pas remplacer la supervision humaine, laquelle reste cruciale.

C’est pourquoi il est impératif que la conception et le développement des produits s’appuient sur des directives d’utilisation de l’IA responsables, qui gardent l’humain au cœur du processus. Prioriser l’expérience humaine permettra aux entreprises d’optimiser l’utilisation de GenAI pour leurs employés et leurs clients.

L’IA doit augmenter et améliorer l’expérience de travail, mais ne doit pas automatiser entièrement les tâches ni remplacer les équipes. Notre étude sur l’expérience utilisateur avec GenAI a mis en lumière cinq aspects clés à prendre en compte pour une approche centrée sur l’humain. Tous ces éléments contribuent à l’objectif général de favoriser la confiance et le sentiment de maîtrise de la situation.

1. Explicabilité

Partez du principe que les gens ne sont pas convaincus par l’IA. Tenez compte de leurs attentes, expliquez les concepts et les termes, et utilisez dans la mesure du possible des expériences qui leur sont familières. Les gens veulent pouvoir comprendre et interpréter les prévisions de l’IA, en particulier dans le contexte de leur travail, où ils sont responsables des résultats. L’IA ne doit pas être de la magie.

2. Transparence

Dans l’ensemble, les employés sont très réceptifs au recours à l’IA dans le cadre professionnel, mais ils veulent savoir quand elle est utilisée. Informez clairement vos équipes que vous y avez recours. Les utilisateurs doivent comprendre ce que l’IA a fait et pourquoi, et, si nécessaire, ils doivent être en mesure de comprendre comment elle fonctionne (par exemple, quelles sont ses sources de données).

3. Capacité à fournir du feedback

Les humains sont conscients que l’IA n’est pas parfaite, mais il est important d’être clair concernant ses limites. Cela permet aux équipes de garder le contrôle, de fournir du feedback et d’évaluer la précision des résultats de GenAI. Donnez la possibilité à vos employés de diminuer, augmenter ou adapter l’utilisation de l’IA dans leur travail. Ils doivent pouvoir désactiver l’IA ou annuler ses actions rapidement et sans effets adverses.

4. Formation et renforcement de la confiance

Votre stratégie d’IA ne doit pas faire l’impasse sur la familiarisation, la gestion du changement étant nécessaire. Même quand la familiarisation et la confiance des utilisateurs s’inscrivent déjà en partie dans le produit lui-même, l’entreprise qui propose cette nouvelle expérience doit définir les attentes et prendre des mesures pour aider ses équipes à s’y adapter. Les entreprises doivent se concentrer sur les gains rapides pour obtenir rapidement des résultats.

5. Diversité des niveaux d’adhésion

Dans notre parcours avec l’IA chez ServiceNow, à mesure que les gens se sont familiarisés avec la technologie, nous avons vu évoluer leur capacité d’utilisation, leur niveau d’adhésion et la fréquence à laquelle ils y recouraient. De nombreuses personnes à différents postes et dans différents secteurs peuvent vouloir tirer parti de GenAI, mais sa valeur doit être évidente dès le départ.

Il faut partir du principe qu’elles vont aborder l’IA avec un état d’esprit, des spécificités, des croyances et une volonté à l’utiliser qui leur sont propres, en particulier quand il s’agit de le faire au travail et non dans leur vie personnelle.

Chez ServiceNow, nous donnons toujours la priorité à l’humain. GenAI ne fait pas exception. Nous nous engageons à nous former et nous développer avec nos clients et à fournir de bonnes pratiques d’IA centrées sur l’humain et qui placent la confiance au premier plan pour préparer l’avenir.

Comme l’explique Bill McDermott, PDG de ServiceNow, « la confiance est la devise humaine par excellence. Elle se gagne grain par grain et se perd en masse. » Nous veillons à ce que nos produits d’IA continuent de renforcer cette confiance, grain par grain.
Découvrez l’IA générative ServiceNow.