Rétroaction de latence dans Agent virtuel

  • Rversion finale: Xanadu
  • Mis à jour 1 août 2024
  • 1 minute de lecture
  • La com.glide.cs.message.processing.enabled propriété système avertit les demandeurs chaque fois que le grand modèle de langage (LLM) de l’IA générative traite leur demande dans le client Web et Now Assist le Agent virtuel panneau.

    Messages de retour sur la latence

    La com.glide.cs.message.processing.enabled propriété est désactivée par défaut, mais peut être activée dans la table Propriétés système [sys_properties]. Après avoir activé cette propriété système, les utilisateurs reçoivent une réponse temporaire pour indiquer que l’appel LLM est en cours d’exécution et que leur demande est en cours de traitement. L’un des messages suivants s’affiche aux utilisateurs :

    • Examen de votre demande...
    • Examen des détails clés...
    • Rassemble les informations nécessaires...

    Les messages de retour de latence ne peuvent pas être personnalisés et disparaissent après que le LLM a généré une réponse.

    Figure 1. Exemple de message de commentaire sur la latence
    Votre demande reçoit un message de retour d’information sur la latence temporaire.