Modellerklärbarkeit

Analysieren Sie mithilfe der Modellerklärbarkeit die Wichtigkeit jedes Eingabefelds für die Vorhersagen Ihres Modells. Erstellen Sie ein Workflow-Klassifizierungsmodell, das eine grafische Analyse der Wichtigkeit der Funktion enthält, indem Sie das bereitgestellte Skript ausführen.

Vorbereitungen

• Diese Methode verwendet die API für die Workflow-Klassifizierungslösung anstelle des Formulars „Lösungsdefinition“, um ein Modell mit hinzugefügter Erklärbarkeit zu erstellen und zu trainieren. Informationen zu den Komponenten von Workflow-Klassifizierungsmodellen finden Sie unter Klassifizierungslösung erstellen und trainieren.
• Erforderliche Rolle: Ml_admin oder admin

Warum und wann dieser Vorgang ausgeführt wird

Die Modellerklärbarkeit hilft dabei, die wichtigsten Funktionen zu identifizieren, die die Vorhersagen des Modells während des Trainings beeinflussen.

Hinweis:

Erstellbarkeit kann keinem vorhandenen Modell hinzugefügt werden. Diese Methode verwendet ein Skript zum Erstellen und Trainieren eines neuen Workflow-Klassifizierungsmodells. Weitere Informationen zum Skripting bei der Erstellung von Klassifizierungslösungen finden Sie unter ClassificationSolution - Global.

Das im Verfahren bereitgestellte Skript erstellt und trainiert ein Modell, bei dem die Erklärbarkeit auf „wahr“ festgelegt ist. Im Lösungsformular des neuen Modells eine zusätzliche Registerkarte mit der Bezeichnung Wichtigkeit Der Funktion Wird angezeigt. Diese Registerkarte bietet ein Diagramm des relativen Beitrags jeder Eingabe zur Vorhersage.

Prozedur

1. Navigieren zu Alle > Systemdefinition > Skripts – Hintergrundan.
2. Bearbeiten Sie den Abfragefilter und die Tabellen-, Feld- und Variablenwerte gemäß Ihrem geplanten Modell im folgenden Skript, und führen Sie dann das Skript aus.

   // Define a dataset
                       var myIncidentData = new sn_ml.DatasetDefinition({
                       'tableName': 'incident',
                       'fieldNames': ['category', 'short_description', 'sys_updated_by', 'assignment_group', 'description', 'priority'],
                       'encodedQuery': 'activeANYTHING'
                       });
                       
                       // Define a classification solution definition with explainability field
                       var mySolution = new sn_ml.ClassificationSolution({
                       'label': 'model explainability',
                       'dataset': myIncidentData,
                       'predictedFieldName': 'category',
                       'inputFieldNames': ['short_description', 'priority'],
                       //setting the explainability field to true.
                       'explainability': true,
                       });
                       
                       // Add solution to ClassificationSolutionStore
                       var my_unique_name = sn_ml.ClassificationSolutionStore.add(mySolution)
                       
                       // Submit training job
                       var solutionVersion = mySolution.submitTrainingJob();
                   

   Hinweis:

   Ersetzen Sie den Abfragefilter und die Tabellen-, Feld- und Variablennamen in diesem Skript durch eigene Werte.
3. Navigieren Sie zur Tabelle ML-Lösungen [ml_Solution], und öffnen Sie Ihre neue Lösung, indem Sie den Wert von auswählen Aktiv Feld.
4. Suchen und öffnen Sie im Lösungsformular Wichtigkeit Der Funktion Registerkarte.
   Wichtigkeit Der Funktion Zeigt eine Dropdown-Liste an.

   

   • Die Bezeichnung für diese Dropdown-Liste ist der Name Ihres Ausgabefelds (vorhergesagt), daher ist die Bezeichnung für jedes Modell spezifisch.
   • Die Werte in der Dropdown-Liste sind die möglichen Ausgabeklassen für Ihr Ausgabefeld plus Global Option.

   Listenoption	Beschreibung
   Global	Bietet einen Überblick darüber, wie sich das Modell in allen Vorhersagen verhält, und zeigt die Gesamtauswirkung der einzelnen Eingabefunktionen. Wählen Sie Aus Global Dient zum Öffnen eines Diagramms der Wichtigkeit Ihrer Eingabefelder für Vorhersagen für alle Ausgabeklassen insgesamt.
   Ihr Ausgabeklasse-Wert	Konzentriert sich auf das Verhalten des Modells nur für die ausgewählte Klasse und zeigt, wie Eingabefunktionen pro Klasse zu Vorhersagen beitragen. Wählen Sie eine der möglichen Ausgabeklassen aus, um ein Diagramm der Bedeutung Ihrer Eingabefelder für Vorhersagen für diese Klasse zu öffnen.

5. Starten Sie die grafische Analyse, indem Sie einen Wert aus der Dropdown-Liste auswählen.
   Die y-Achse zeigt Ihre Eingabefelder und die x-Achse zeigt die numerische Wichtigkeit für jede Eingabe an. Die Bezeichnung des Diagramms spiegelt die Klasse wider, die Sie in der Dropdown-Liste ausgewählt haben.
   Sie können den Mauszeiger über einen Balken bewegen, um den numerischen Prozentsatz für die Wichtigkeit jeder Eingabe anzuzeigen.

Ergebnisse

Ein positiver Wichtigkeitswert bedeutet, dass das Eingabefeld die Vorhersagepunktzahl des Modells erhöht. Ein negativer Wert bedeutet, dass das Eingabefeld die Vorhersagepunktzahl verringert.

Nächste Maßnahme

Erwägen Sie das Verwerfen von Eingabefeldern mit Punktzahlen mit niedriger Wichtigkeit. Trainieren Sie Ihr Modell nach der Änderung erneut.

Zugehörige Konzepte

• Mit APIs für maschinelles Lernen

Zugehörige Tasks

• Klassifizierungslösung erstellen und trainieren

Zugehörige Informationen

• ClassificationSolution - Global