Ajouter un filtrage sémantique et une gestion des erreurs pour les informations sensibles

Créez des filtres sémantiques pour les demandes et les réponses de l’IA générative afin de filtrer les rubriques sensibles lors des interactions avec l’IA générative dans Agent virtuel.

Avant de commencer

Vous devez disposer d’une rubrique Agent virtuel vers laquelle basculer lorsqu’un filtre détecte du contenu indésirable. Il peut s’agir, par exemple, d’une rubrique de sortie de texte signalant qu’une erreur s’est produite ou d’une rubrique qui transfère l’utilisateur à un agent actif. La rubrique doit être publiée et active.

Rôle requis : administrateur

Pourquoi et quand exécuter cette tâche

Pour empêcher les conversations de l’IA générative sur des sujets sensibles, vous pouvez utiliser le filtrage sémantique pour faciliter l’identification des expressions dans les conversations d’Agent virtuel. Identifiez les éléments que vous ne souhaitez pas inclure dans une demande ou une réponse d’un LLM et ajoutez des filtres pour supprimer ces éléments. La recherche sémantique IA peut aider à déterminer si du contenu sensible est discuté et déclencher un passage à une rubrique d’Agent virtuel désignée.

Procédure

1. Dans le navigateur, accédez à la table Groupe de filtres d’IA générative [sys_gen_ai_filter_group] en saisissant sys_gen_ai_filter_group.list.
   Si c’est le cas Now Assist pour Prestation de services RH (HRSD), il est possible que des groupes aient déjà été créés pour vous. Vous pouvez ajouter des éléments à ces groupes ou créer les vôtres. Si vous n’avez Now Assist pour Prestation de services RHpas de , vous pouvez toujours créer le vôtre.
2. Sélectionnez Nouveau.
3. Dans le champ Nom , entrez un nom pour le groupe.
4. Dans le champ Description , entrez une description pour le groupe.
   La description d’un groupe de filtres pourrait commencer par « Ce filtre comprend les problèmes/préoccupations en milieu de travail tels que le bien-être des employés, l’équité et l’éthique ». Vous pouvez ensuite ajouter des exemples de ces problèmes/préoccupations en milieu de travail dans la description de cette catégorie de matériel sensible.
5. Sélectionnez Soumettre pour créer le groupe.
6. Dans le navigateur, accédez à la table Filtre d’IA générative [sys_gen_ai_filter] en saisissant sys_gen_ai_filter.list.
7. Sélectionnez Nouveau.
8. Dans la catégorie Groupe de filtres , choisissez un groupe de filtres d’IA générative.
9. Facultatif : Dans le champ Configuration du filtre , utilisez la valeur « portail » pour déterminer quand le filtre doit être exécuté, par exemple en définissant « portail » sur « portail de services » pour appliquer uniquement le filtre sur le portail du fournisseur de services.
   Utilisez une liste séparée par des virgules pour sélectionner plusieurs valeurs.
10. Dans le champ Seuil de filtre , définissez la limite pour déterminer à quel moment le LLM doit générer l’erreur de filtre.
    Plus la valeur est faible, plus le filtre est sensible. Expérimentez différents seuils de filtre pour vous aider à définir vos limites préférées.
11. Pour le champ Ordre , choisissez l’ordre dans lequel appliquer les filtres.
    Les filtres sont traités par ordre du plus bas au plus haut. Un filtre d’ordre 100 est traité avant un filtre d’ordre 200.
12. Dans le champ Description , saisissez une description du filtre.
    Comme pour l’enregistrement du groupe de filtres d’IA générative, plus vous êtes descriptif, plus le LLM a de chances de comprendre le but du filtre.
13. Définissez la rubrique Erreur de filtre sur la rubrique qui doit s’exécuter lorsque le filtre détecte du contenu indésirable, telle qu’une rubrique Transférer à l’agent actif ou une rubrique Gestion d’erreur.
14. Sélectionnez Appliquer à tous pour appliquer le filtre à toutes les fonctionnalités (Résumer, Générer du contenu, etc.).
    Important :

    Si vous n’avez pas sélectionné Appliquer à tous, vous devez créer un enregistrement de configuration de filtre d’IA générative pour mapper le filtre à l’option. Consultez les étapes supplémentaires ci-dessous pour créer le mappage.
15. Sélectionnez Soumettre pour créer le filtre.
    
16. Pour mapper un filtre à une option, créez un enregistrement de configuration de filtre d’IA générative.
    1. Dans le navigateur, accédez à la table Configuration du filtre de l’IA générative [sys_gen_ai_filter_config] en saisissant sys_gen_ai_filter_config.list.
    2. Sélectionnez Nouveau.
    3. Dans le champ Table de configuration, sélectionnez OneExtend Capability [sys_one_extend_capability].
    4. Dans le champ ID de configuration , sélectionnez l’icône de recherche de liste () pour sélectionner une configuration.
    5. Dans le champ Document , sélectionnez l’aptitude à laquelle vous souhaitez que le filtre s’applique.
       Si vous souhaitez que le filtre s’applique à certaines options, mais pas à toutes, vous devez créer un enregistrement de configuration de filtre d’IA générative pour chaque option.
    6. Sélectionnez OK pour effectuer votre sélection et fermer le modal.
    7. Sélectionnez Soumettre.
       
17. Dans le navigateur, accédez à la table Exemple de filtre d’IA générative [sys_gen_ai_filter_sample] en saisissant sys_gen_ai_filter_sample.
18. Sélectionnez Nouveau pour créer un échantillon.
19. Dans le champ Exemple de texte , entrez un exemple de ce que vous voulez que le filtre détecte.
    Chaque échantillon peut être court, et le fait d’avoir plus d’enregistrements d’échantillons aide la recherche sémantique IA à déterminer ce que le filtre doit intercepter. Si vous constatez que certains termes ou déclarations ne sont pas détectés par votre filtre, vous pouvez essayer d’ajouter d’autres exemples pour voir si le filtre s’améliore.
20. Pour activer le filtre sur un attribut, accédez à la table Aptitude OneExtend [sys_one_extend_capability] en saisissant sys_one_extend_capability.list dans le navigateur.
    Une fois que vous avez créé le groupe de filtres d’IA générative, le filtre d’IA générative et les exemples de filtres d’IA générative, vous devez activer le filtre sur un attribut pour l’aptitude que vous configurez.
21. Ouvrez l’enregistrement de l’option.
22. Définissez le champ Appliquer le filtre sur vrai pour appliquer le filtre.
    
23. Répétez l’opération pour chaque option sur laquelle vous souhaitez que le filtre soit activé.

Résultats

Le filtrage sémantique est maintenant disponible pour l’aptitude sur l’attribut que vous avez configuré.

Que faire ensuite

Configurez la gestion des données sensibles pour remplacer les informations personnellement identifiables par du texte d’espace réservé dans les demandes envoyées au LLM.