Détails du journal pour le collecteur de données classique
Rversion finale: Washingtondc
Mis à jour 1 févr. 2024
8 minutes de lecture
Analyse des performances La collecte des scores suit le processus décrit ici. Pour faciliter le dépannage, un mappage entre les étapes de tâche et les entrées de journal est fourni.
Vue d’ensemble de la collection
Le travail de collecte de données implique l’exécution d’une requête SQL pour chaque source d’indicateur qui utilise le collecteur de données. La requête se répète à chaque heure de collecte, de la date de début à la date de fin. Ensuite, les requêtes s’exécutent pour la source d’indicateur suivante. Chaque étape de l’exécution d’une requête est documentée dans le journal de tâches de collecte de données. Figure 1. Vue de haut niveau du travail de collecte de données
Propriétés d’optimisation affichées dans le journal
Le collecteur de données dispose de plusieurs optimisations qui peuvent être activées ou désactivées dans les propriétés système. Le début du journal des tâches inclut l’état de ces propriétés.
Remarque :
Ne confondez pas ces propriétés d’optimisation avec le nouveau collecteur de données optimisé. Ces propriétés s’appliquent uniquement au collecteur de données classique. Le nouveau collecteur de données est optimisé à un niveau plus fondamental.
Tableau 1. Propriétés d’optimisation de la collecte de données
Optimisation
Description
Propriété système
Collection imbriquée
Remplace le mappage plat, afin de réduire les objets redondants. Par exemple, au lieu de créer des objets d’indicateur identiques pour chaque répartition et chaque élément de cet indicateur, un seul objet est créé pour l’indicateur.
com.snc.pa.dc.nested_collection
Valeur par défaut : true
Vider les instantanés
Stocke Now Platform un nombre maximal d’instantanés Analyse des performances en mémoire avant de les décharger dans la base de données.
com.snc.pa.dc.flush_snapshot_count
Par défaut : 1 000
Utiliser le code de hachage pour le nombre distinct
Stocke les agrégations distinctes sous forme de code de hachage plutôt que sous forme de valeurs distinctes.
com.snc.pa.dc.use_hashcode_for_distinct
Valeur par défaut : true
Démarrer et terminer la tâche de collecte
Suivez le processus de collecte de données tel qu’indiqué dans les messages de journal. Les messages de journal de chaque sous-processus ont été séparés dans leurs propres tables.
Remarque :
Ce journal est destiné au collecteur de données d’origine. Si votre instance utilise ce collecteur de données, le paramètre com.snc.pa.dc.hsql système existe et est « faux ». Sinon, vous utilisez le collecteur de données optimisé comme décrit à la section Optimisation de la collecte de données. Pour plus d’informations sur ce journal, reportez-vous à Détails du journal pour un collecteur de données optimisé.
Étape de tâche de collecte
Exemple d’entrée de journal résultante
Affiche le domaine de l’exécution de la tâche de collecte en tant qu’utilisateur.
L’utilisateur <admin> appartient au domaine global
Début de la collecte. Le début de tâche spécifie si les scores, l’index de texte ou les deux sont collectés. Les messages spécifient également les paramètres des propriétés d’optimisation de la collecte de données.
Début de la collecte des scores et de l’index de texte. Valeur des propriétés dans le système -
Vider le nombre d’instantanés : 1 000
Est une collection imbriquée : vrai
Utilisation du code de hachage pour le nombre distinct : vrai
Affiche les domaines pour lesquels les scores sont collectés. Affiche également d’autres détails pertinents sur les domaines.
DomainConfig : Test des journaux de collecte de configuration de domaine : 3d359877b77000106886e664de11a97c, Type : conditions, RollUpType : roll_up_children, collectAggregate ? Oui, collectChildren ?: Oui, AggregateDomain : Nom : 3d359877b77000106886e664de11a97c - SysID : d1659c77b77000106886e664de11a91e, Domaines : Default,MSP,ACME,Cisco,Initech,Oceanic Airlines
Répertorie les sources d’indicateurs pour lesquelles la tâche collecte des données, y compris leurs ID uniques.
Indique si la collecte des scores suit la structure de données imbriquée au lieu d’utiliser un mappage plat. La collection imbriquée crée moins d’objets redondants en mémoire.
La collection non imbriquée prend en charge le traitement par lots des scores.
Utilisation de la collection imbriquée.
Remarque : les insertions par lots de partitions ne sont pas prises en charge avec la collection imbriquée.
Itérez les étapes pour chaque période de collecte.
Traitement de la source de l’indicateur Incidents.New
Étapes itérées pour chaque période de collecte
Étape de tâche de collecte
Exemple d’entrée de journal résultante
Date de début de la tâche de collecte.
Collecte pour 20191103 sur la source d’indicateur Incidents.Open
Récupérez les champs suivants :
Champs uniques des sources de répartition (généralement sys_id)
Les champs d’indicateur utilisés dans les mappages de répartition
Les champs de table utilisés dans les mappages de répartition scriptés
Champs de source d’indicateur utilisés dans l’analyse de texte, si l’index de texte est collecté (inclut généralement short_description)
Extraction de « short_description sys_id, opened_at, assignment_group, description, priorité, catégorie » à partir de « incident »
Générez SQL en fonction des conditions spécifiées dans la source de l’indicateur.
Remarque :
Si la source de l’indicateur spécifie Aujourd’hui dans l’une des conditions, Aujourd’hui est considéré comme correspondant à la période pour laquelle le travail de collecte de données est exécuté. Par exemple, la source de l’indicateur Incidents.New inclut la condition [Ouvert][activé][Aujourd’hui]. Les jours étant définis pour commencer à 07 :00 :00, lorsque les données sont collectées pour le 28/10/2019, la tâche génère le script SQL sur la droite.
SELECT task0.'sys_id' FROM task task0 WHERE task0.'sys_class_name' = 'incident' AND (task0.'opened_at' >= '2019-10-28 07 :00 :00' AND task0.'opened_at' <= '2019-10-29 06 :59 :59')
Affichez le nombre d’enregistrements récupérés par SQL.
150 lignes extraites de la source d’indicateur Incidents.Open (table de faits : incident)
Exécutez la fonction de mappage/réduction pour calculer les scores des indicateurs.
Si l’indexation de texte est active et a été configurée pour la source d’indicateur, le collecteur de données stocke l’index de texte résultant.
Stockage de l’index de texte pour la source d’indicateur Incidents.Open
Octets utilisés par l’index de texte : 41 984 pour : Incidents.Open
Commencez à stocker les résultats nouvellement collectés pour la source d’indicateur.
Scores à stocker : 374 842 (à l’exclusion des scores distincts du nombre de niveaux 2 évalués paresseusement pour les indicateurs : ID : tous les incidents avec les 3 répartitions)
Tout indicateur avec une valeur Null est consigné.
« Valeur quand nul » stockée : 0,0 en tant que score pour l’indicateur : Nombre d’incidents déviés par la base de connaissances
Terminez le stockage des résultats.
Scores stockés : 1 125 057
Résultats recueillis enregistrés
Spécifiez les indicateurs pour lesquels le collecteur de données ne collecte pas de scores.
Pas de collecte pour l’indicateur : âge cumulé des incidents ouverts avec exclusion Répartition : Groupe d’affectation
Terminez la collecte des données pour cette source d’indicateur pour cette période.
Collecte pour 20200519 sur la source d’indicateur Incidents.Ouvert terminé
Affichez la durée moyenne passée sur un enregistrement pour traiter les conditions supplémentaires qui ont été définies dans les indicateurs.
Temps moyen nécessaire pour traiter une condition d’indicateur supplémentaire pour chaque enregistrement : 138 ms
Étapes de la fonction de mappage/réduction
Étape de tâche de collecte
Exemple d’entrée de journal résultante
La fonction map/reduce s’exécute.
Application de la fonction de mappage/réduction pour la source d’indicateur Incidents.Open
Avertissement si l’indexation de texte est active pour la tâche, mais ne peut pas s’exécuter en raison d’une configuration d’index de texte manquante ou non valide.
Omission de la collection d'index de texte, car la configuration d'index de texte est manquante ou non valide
Supprimez les scores précédents pour les indicateurs et les répartitions qui utilisent la source d’indicateur.
Suppression des résultats précédents pour la source d’indicateur Incidents.Open
Résultats précédents supprimés 38 pour l’indicateur : Connexions externes
Résultats précédents supprimés 21 pour l’indicateur : échecs de connexion
Traitez chaque enregistrement sur la source de l’indicateur pour calculer les scores. Les messages de journal suivent l’exécution totale des enregistrements traités et de l’utilisation de la mémoire. Le traitement de chaque enregistrement implique :
Exécuter ou évaluer des scripts.
Validez les conditions de l’indicateur.
Calculez le score de l’indicateur.
Pour chaque répartition :
Calculez le score de répartition ou exécutez le script de répartition.
Récupérer toutes les valeurs uniques de répartition.
Créez ou mettez à jour le tableau pour les scores ou les instantanés. Le tableau est le suivant : Indicateur, Répartition 1, Artefact 1, Répartition 2, Artefact 2, Domaine, Valeur, Tableau de [sys_id]
18%% (1) enregistrements traités, Taille de l’objet de résultat : 5 Mo
42 % (2) enregistrements traités, taille d’objet de résultat : 9 Mo
76 % (3) enregistrements traités, Résultat Taille de l’objet : 14 Mo
100 % (4) enregistrements traités, taille de l’objet de résultat : 20 Mo
