Gardien Now Assist analytique
Surveillez les performances des garde-fous activés via Gardien Now Assist.
Le Gardien Now Assist tableau de bord d’analyse aide les administrateurs à surveiller et à évaluer l’efficacité du contenu offensant et des garde-fous d’injection d’invite dans le suivi et l’analyse des demandes envoyées aux grands modèles de langage (LLM) et de leurs réponses.
Les indicateurs sur la page de Gardien Now Assist tableau de bord fournissent les informations suivantes.
- Latence moyenne résultant du contenu offensant actif et des garde-fous d’injection d’invite. Une latence élevée pourrait signifier une augmentation de l’activité des garde-fous au cours de la période.
- Nombre et pourcentage d’occurrences de contenu offensant et d’injection d’invite.
- Compétences pour lesquelles des occurrences de contenu offensant et d’injection d’invite ont été détectées.
Appliquez les filtres sur le tableau de bord pour afficher l’activité du garde-fou pour les compétences dans une plage de dates. Pour plus d’informations sur les données et les calculs qui sous-tendent chaque indicateur, reportez-vous à la section Analyses Now Assist Détails de l’indicateur du tableau de bord .
Indicateurs de contenu offensant
- Latence ajoutée par GuardRail
- Cette zone du tableau de bord affiche la latence moyenne résultant du garde-fou de contenu offensant actif pour les compétences et la plage de dates sélectionnées.
Figure 2. Indicateur de latence ajouté par Garde-fou - Pourcentage marqué comme offensant
- Cette zone du tableau de bord affiche le pourcentage de demandes et de réponses à destination et en provenance du service LLM qui sont marquées comme contenu offensant.
Figure 3. Pourcentage marqué comme indicateur offensant - Total des occurrences de contenu offensant
- Cette zone du tableau de bord affiche le nombre total d’occurrences de contenu offensant pour les compétences et la plage de dates sélectionnées.
Figure 4. Indicateur total d’occurrences de contenu offensant - Catégories de contenu offensant
- Cette zone du tableau de bord affiche une répartition des occurrences de contenu offensant par catégories. Si le contenu est considéré comme offensant dans plus d’une catégorie, par exemple, toxique et diffamatoire, l’occurrence est comptabilisée individuellement dans les deux catégories. Pour en savoir plus sur les catégories de contenu offensant, reportez-vous à la section Gardien Now Assist.
Figure 5. Catégories d’indicateurs de contenu offensant - Occurrences de contenu offensant par compétence
- Cette zone du tableau de bord affiche le nombre d’occurrences de contenu offensant au fil du temps selon les compétences dans lesquelles le contenu est détecté.
Figure 6. Occurrences de contenu offensant par indicateur de compétence
Indicateurs d’injection d’invite
- Latence ajoutée par GuardRail
- Cette zone du tableau de bord affiche la latence moyenne résultant du garde-fou d’injection d’invite active pour les compétences et la plage de dates sélectionnées.
Figure 7. Indicateur de latence ajouté par Garde-fou - Pourcentage marqué comme injection d’invite
- Cette zone du tableau de bord affiche le pourcentage de demandes et de réponses à destination et en provenance du service LLM qui sont marquées comme contenu offensant.
Figure 8. Pourcentage marqué comme indicateur d’injection d’invite - Nombre total d’occurrences de l’injection d’invite
- Cette zone du tableau de bord affiche le nombre total d’occurrences de contenu offensant pour les compétences et la plage de dates sélectionnées.
Figure 9. Indicateur du nombre total d’occurrences d’injection d’invite - Occurrences de l’injection d’invite par compétence
- Cette zone du tableau de bord affiche le nombre d’occurrences d’injection d’invite au fil du temps par les compétences pour lesquelles des tentatives d’injection d’invite ont été détectées.
Figure 10. Occurrences d’injection d’invite par indicateur de compétence