最適化されたデータコレクターのログの詳細

Tokyo リリース以降、最適化された新しいデータコレクターを利用できます。このデータコレクターのログの詳細は、従来のデータコレクターのログの詳細とは異なります。

コレクションの概要

データ収集ジョブでは、データ コレクタを使用する各インジケーター ソースに対して SQL クエリを実行します。クエリは、開始日から停止日まで収集時間ごとに繰り返されます。その後、次のインジケーター ソースに対してクエリが実行されます。クエリを実行する各ステップは、データ収集ジョブログに記録されます。

図 : 1. データ収集ジョブの概要

収集ジョブの開始と完了

ログメッセージに示されているデータ収集プロセスに従います。各サブプロセスのログメッセージは、それぞれのテーブルに分かれています。

注:

このログは、 データ収集の最適化で説明されているように最適化された HSQL データコレクター用です。com.snc.pa.dc.hsqlが「false」の場合は、従来のデータコレクターを使用しています。それ以外の場合は、最適化されたデータコレクターを使用します。そのログの詳細については、「 クラシック版データコレクターのログの詳細」を参照してください。

収集ジョブステップ	結果のログ エントリの例
収集ジョブの実行ユーザーのドメインを表示します。	グローバルドメインに属するユーザー <admin>
収集が開始されます。ジョブ開始は、スコア、テキストインデックス、またはその両方を収集するかどうかを指定します。メッセージには、最適化された HSQL データコレクターが使用中であること、およびデバッグログが有効かどうかも明記されます。デバッグログを有効にできるのは カスタマーサービス & サポート のみです。	スコアとテキストインデックスの両方の収集を開始します。システム内のプロパティの値: HSQL データコレクターの使用:true デバッグログが有効:true ノード名:vsr007
スコアが収集されるドメインを表示します。また、ドメインに関するその他の関連する詳細も表示されます。	DomainConfig:ドメイン構成収集ログのテスト - 3d359877b77000106886e664de11a97c、タイプ:conditions、RollUpType:roll_up_children、collectAggregate? はい、collectChildren?:はい、AggregateDomain:名前:3d359877b77000106886e664de11a97c-SysID:d1659c77b77000106886e664de11a91e、ドメイン:デフォルト、MSP、ACME、Cisco、Initech、Oceanic Airlines
ジョブがデータを収集するインジケーターソースを、一意の ID とともに一覧表示します。	収集するインジケーターソース:Incidents.New:b54f2c23d7030100b96d45a3ce61032f、Incidents.Open:b5cf2c23d7030100b96d45a3ce6103cc、Incidents.Closed:2ac8dd31ff2302001e68ffffffffff3d、Incidents.Resolved:4c207c23d7030100b96d45a3ce610308
ジョブに関連付けられた各インジケーターと、データ収集に関連するインジケーター プロパティを一覧表示します。 レコードは スナップショットに収集されますか? ブレークダウンは除外されていますか? インジケーターソースの収集期間は上書きされていますか? ブレークダウンマトリクスは収集されていますか? ブレークダウンマトリクスが収集される場合、ブレークダウンの組み合わせは除外されますか?	JobIndicator:オープン中のインシデントの数:de537dc3d7131100b96d45a3ce610305 ジョブインジケーターのプロパティ:collectIndicator?:はい、BreakdownCollectionType:WITH_EXCLUDE 除外されるブレークダウン:アサイン先グループ、ステータス インジケータープロパティ => CollectingRecords:はい、上書きされた収集期間:いいえ、スクリプト化:いいえ、ブレークダウンの組み合わせ:はい、除外されます ブレークダウンの組み合わせ:除外される組み合わせはありません。
各インジケーターソースのステップを反復	テーブルを参照してください インジケーター ソースごとに繰り返されるステップ。
データ収集ジョブの統計情報を表示	統計情報: 挿入数 184、更新数 0、削除数 92、エラー 0、警告数 0
ジョブを完了	収集が終了しました

インジケーターソースごとに反復されるステップ

収集ジョブステップ	結果のログ エントリの例
インジケーター ソースを取得します。	インジケーターソース Incidents.Open を処理しています。
最適化された HSQL データコレクターが使用されていることを繰り返します。
インジケーター ソースから継承した条件以外の条件があるインジケーターを一覧表示します。	インジケーター:管理ログイン:[インジケーターのsys_id]、他の条件:ref_isc_login_event.login_type=login_admin、レコードの収集:true
収集期間ごとにステップを反復します。	テーブルを参照 収集期間ごとに繰り返されるステップ
次のインジケーターソースを取得します。	インジケーターソース Incidents.New を処理しています。

収集期間ごとに繰り返されるステップ

収集ジョブステップ	結果のログ エントリの例
収集ジョブの開始日。	インジケーターソース Incidents.Open の20191103収集
次のフィールドをフェッチします。 ブレークダウンソースの一意のフィールド (通常は sys_id) ブレークダウンマッピングで使用されるインジケーターフィールド スクリプト化されたブレークダウンマッピングで使用されるテーブルフィールド テキストインデックスが収集される場合にテキスト分析で使用されるインジケーターソースフィールド (通常はshort_descriptionを含む)	「インシデント」から「short_description、sys_id、opened_at、assignment_group、説明、優先度、カテゴリ」をフェッチしています
インジケーター ソースで指定されている条件に基づいて SQL を生成します。 注: インジケーター ソースがいずれかの条件で今日を指定している場合、今日はデータ収集ジョブが実行される期間に関連して考慮されます。たとえば、Incidents.New インジケーター ソースには、条件 [オープン][次の値に等しい (=)][今日] が含まれています。日が 07:00:00 に開始するように定義されている場合、2019-10-28 のデータが収集されると、ジョブによって右側の SQL スクリプトが生成されます。	SELECT task0.'sys_id' FROM task task0 WHERE task0.'sys_class_name' = 'incident' AND (task0.'opened_at' >= '2019-10-28 07:00:00' AND task0.'opened_at' <= '2019-10-29 06:59:59')
SQL によってフェッチされたレコードの数を表示します。	インジケーターソース Incidents.Open から 150 行をフェッチしました (ファクトテーブル:インシデント)
以前の結果を削除します。	以前の結果を削除しました 1 (インジケーター:代理操作)
マップ/低減機能を実行してインジケーター スコアを計算します。	表「マップ/低減機能のステップ」を参照してください
テキスト インデックス作成がアクティブで、インジケーター ソース用に設定されている場合、データ コレクタは結果のテキスト インデックスを格納します。	インジケーターソース Incidents.Open のテキストインデックスを保存中
	Incidents.Open のテキストインデックス 41,984 に使用されるバイト
次のいずれかのしきい値を超えると、オブジェクトが HSQL データベースにオフロードされます。 スコア数 スナップショットの数 個別のカウント値の合計数 オブジェクトのカテゴリごとにオフロード制限を超えた回数をログに記録します。1 つのカテゴリでオフロード制限を超えるたびに、すべてのオブジェクトが HSQL 一時データベースストレージに移動されます。map/reduce 関数の最後に、残りのレコードがオフロードされます。残りのレコード数は通常しきい値を下回っており、このオフロードもログに記録されます。	オフロード制限がスコアのしきい値を超えた回数:275 スナップショットのオフロード制限がしきい値を超えた回数:0 個別の値のオフロード制限がしきい値を超えた回数:0 しきい値を超えなかったレコードのオフロードバッチ:1
インジケーター ソースに対して新しく収集された結果の保存を開始します。	インジケーターソース Incidents.Resolved の収集された結果を保存しています
null 値を持つインジケーターはすべてログに記録されます。	保存された「ゼロ時の値」:0.0 (インジケーターのスコア): ナレッジ別の却下されたインシデントの数
結果の保存を終了します。	保存されている収集結果
データ コレクタがスコアを収集しないインジケーターを指定します。	インジケーターの収集ではありません：オープンインシデントの合計経過時間除外されたブレークダウン付き：アサイン先グループ
その期間のインジケーター ソースのデータ収集を完了します。	インジケーターソース Incidents.Open の 20200519 のコレクションが完了しました
インジケーターに設定された追加の条件を処理するためにレコードに費やされた平均時間を表示します。	各レコードの追加のインジケーター条件の処理に要した平均時間:138 ミリ秒

マップ/低減機能のステップ

収集ジョブステップ	結果のログ エントリの例
マップ/低減機能が実行されます。	インジケーターソース Incidents.Open のマップ/低減機能を適用しています。
ジョブに対してテキストインデックス作成がアクティブであるが、テキストインデックス構成がないか無効であるために実行できない場合に警告します。	テキストインデックス設定がないか、無効であるため、テキストインデックスの収集をスキップしています
インジケーター ソースの各レコードを処理してスコアを計算します。ログメッセージは、処理されたレコードの現在までの累計を追跡します。 結果のスコアまたはスナップショットの数が制限を超えるたびに、すべてのオブジェクトが HSQL データベースにオフロードされます。オフロードは、map/reduce 関数が完了した後にログに記録されます。 各レコードの処理には、以下が含まれます。 スクリプトを実行または評価します。 インジケーター条件を検証します。 インジケータースコアを計算します。 各ブレークダウンについて： ブレークダウン スコアを計算するか、ブレークダウン スクリプトを実行します。 すべてのブレークダウンの一意の値を取得します。 スコアまたはスナップショットの配列を作成または更新します。アレイは 、インジケーター、ブレークダウン 1、アーティファクト 1、ブレークダウン 2、アーティファクト 2、ドメイン、値、[sys_id] のアレイです。	処理済み 15.8% (3) 件のレコード
	31.6% (6) 件のレコードを処理しました
	処理済み 47.4% (9) 件のレコード
	63.2% (12) 件のレコードを処理しました
	78.9% (15) 件のレコードを処理しました
	処理済み 94.7% (18) 件のレコード
	100% (4) 件のレコードを処理しました。結果 オブジェクトサイズ:20 MB
マップ/縮小関数が完了します。	適用されたマップ/低減関数

関連概念

• データ収集の最適化

関連タスク

• データ収集ジョブ履歴の表示