Gardien Now Assist Analytique
Surveillez les performances des garde-fous activés via Gardien Now Assist.
Le Gardien Now Assist tableau de bord d’analyse permet aux administrateurs de surveiller et d’évaluer l’efficacité du contenu offensant et des garde-fous d’injection d’invite dans le suivi et l’analyse des demandes envoyées aux grands modèles de langage (LLM) et de leurs réponses.
Les indicateurs sur la page du Gardien Now Assist tableau de bord fournissent les informations suivantes.
- Latence moyenne résultant du contenu offensant actif et des garde-fous d’injection d’invite. Une latence élevée pourrait signifier une augmentation de l’activité des garde-fous au cours de la période.
- Nombre et pourcentage d’occurrences de contenu offensant et d’injection d’invite.
- Compétences pour lesquelles des occurrences de contenu offensant et d’injection d’invite ont été détectées.
Appliquez les filtres sur le tableau de bord pour afficher l’activité du garde-fou pour les compétences dans une plage de dates. Consultez la rubrique Analyse Now Assist Détails de l’indicateur du tableau de bord pour plus d’informations sur les données et les calculs qui sous-tendent chaque indicateur.
Indicateurs de contenus offensants
- Latence due à l'ajout de garde-fou
- Cette zone du tableau de bord affiche la latence moyenne résultant du garde-fou de contenu offensant actif pour les compétences et la plage de dates sélectionnées.
Figure 2. Indicateur de latence ajouté par le garde-fou - Pourcentage marqué comme offensant
- Cette zone du tableau de bord affiche le pourcentage de demandes et de réponses à destination et en provenance du service LLM qui sont marquées comme contenu offensant.
Figure 3. Pourcentage marqué comme indicateur offensant - Total des occurrences de contenu offensant
- Cette zone du tableau de bord affiche le nombre total d’occurrences de contenu offensant pour les compétences et la plage de dates sélectionnées.
Figure 4. Indicateur Total d’occurrences de contenu offensant - Catégories de contenu offensant
- Cette zone du tableau de bord affiche la répartition des occurrences de contenu offensant par catégories. Si le contenu est considéré comme offensant dans plus d’une catégorie, par exemple, toxique et diffamatoire, l’occurrence est comptabilisée individuellement dans les deux catégories. Pour en savoir plus sur les catégories de contenu offensant, reportez-vous à la section .
Figure 5. Indicateurs de catégories de contenu offensant - Occurrences de contenus offensants par compétence
- Cette zone du tableau de bord affiche le nombre d’occurrences de contenu offensant au fil du temps selon les compétences dans lesquelles le contenu est détecté.
Figure 6. Occurrences de contenu offensant par indicateur de compétence
Indicateurs d’injection d’invite
- Latence due à l'ajout de garde-fou
- Cette zone du tableau de bord affiche la latence moyenne résultant du garde-fou d’injection d’invite active pour les compétences et la plage de dates sélectionnées.
Figure 7. Indicateur de latence ajouté par le garde-fou - Pourcentage marqué comme injection d'invite
- Cette zone du tableau de bord affiche le pourcentage de demandes et de réponses à destination et en provenance du service LLM qui sont marquées comme contenu offensant.
Figure 8. Pourcentage marqué comme indicateur d’injection d’invite - Nombre total d'occurrences de l'injection d'invite
- Cette zone du tableau de bord affiche le nombre total d’occurrences de contenu offensant pour les compétences et la plage de dates sélectionnées.
Figure 9. Indicateur Nombre total d’occurrences d’injection d’invite - Occurrences d'injection rapide par compétence
- Cette zone du tableau de bord affiche le nombre d’occurrences d’injection d’invite au fil du temps par les compétences pour lesquelles des tentatives d’injection d’invite ont été détectées.
Figure 10. Occurrences d’injection d’invite par indicateur de compétences