Modell-Erklärbarkeit

Analysieren Sie mithilfe der Modellerklärung, wie wichtig jedes Eingabefeld für die Vorhersagen Ihres Modells ist. Erstellen Sie ein Workflow-Klassifizierungsmodell, das eine grafische Analyse der Funktionswichtigkeit enthält, indem Sie das bereitgestellte Skript ausführen.

Vorbereitungen

• Diese Methode verwendet die Workflow-Klassifizierungslösungs-API anstelle des Lösungsdefinitionsformulars, um ein Modell mit zusätzlichen Erklärungen zu erstellen und zu trainieren. Informationen zu den Komponenten von Workflow-Klassifizierungsmodellen finden Sie unter Klassifizierungslösung erstellen und trainieren.
• Erforderliche Rolle: ml_admin oder admin

Warum und wann dieser Vorgang ausgeführt wird

Die Modellerklärung hilft bei der Identifizierung der wichtigsten Funktionen, die die Vorhersagen des Modells während des Trainings beeinflussen.

Hinweis:

Erklärung kann keinem vorhandenen Modell hinzugefügt werden. Diese Methode verwendet ein Skript zum Erstellen und Trainieren eines neuen Workflow-Klassifizierungsmodells. Weitere Informationen zur Skripterstellung für maschinelle Lernmodelle finden Sie unter Mithilfe von APIs für maschinelles Lernen.

Das im Verfahren bereitgestellte Skript erstellt und trainiert ein Modell, bei dem die Erklärung auf „true“ festgelegt ist. Im Lösungsformular des neuen Modells wird eine zusätzliche Registerkarte mit der Bezeichnung Wichtigkeit der Funktion angezeigt. Diese Registerkarte bietet ein Diagramm des relativen Beitrags jeder Eingabe zur Vorhersage.

Prozedur

1. Navigieren zu Alle > Systemdefinition > Skripts – Hintergrund.
2. Bearbeiten Sie den Abfragefilter sowie die Tabellen-, Feld- und Variablenwerte im folgenden Skript entsprechend Ihrem geplanten Modell, und führen Sie dann das Skript aus.

   // Define a dataset
                       var myIncidentData = new sn_ml.DatasetDefinition({
                       'tableName': 'incident',
                       'fieldNames': ['category', 'short_description', 'sys_updated_by', 'assignment_group', 'description', 'priority'],
                       'encodedQuery': 'activeANYTHING'
                       });
                       
                       // Define a classification solution definition with explainability field
                       var mySolution = new sn_ml.ClassificationSolution({
                       'label': 'model explainability',
                       'dataset': myIncidentData,
                       'predictedFieldName': 'category',
                       'inputFieldNames': ['short_description', 'priority'],
                       //setting the explainability field to true.
                       'explainability': true,
                       });
                       
                       // Add solution to ClassificationSolutionStore
                       var my_unique_name = sn_ml.ClassificationSolutionStore.add(mySolution)
                       
                       // Submit training job
                       var solutionVersion = mySolution.submitTrainingJob();
                   

   Hinweis:

   Ersetzen Sie den Abfragefilter sowie die Tabellen-, Feld- und Variablennamen in diesem Skript durch Ihre eigenen Werte.
3. Navigieren Sie zur Tabelle ML-Lösungen [ml_solution], und öffnen Sie Ihre neue Lösung, indem Sie den Wert des zugehörigen Felds Aktiv auswählen.
4. Suchen und öffnen Sie im Lösungsformular die Registerkarte Wichtigkeit der Funktion.
   Unter Wichtigkeit der Funktion wird eine Dropdown-Liste angezeigt.

   

   • Die Bezeichnung für diese Dropdown-Liste ist der Name Ihres (vorhergesagten) Ausgabefelds, sodass die Bezeichnung für jedes Modell spezifisch ist.
   • Die Werte in der Dropdown-Liste sind die möglichen Ausgabeklassen für Ihr Ausgabefeld sowie die Option Global.

   Listenoption	Beschreibung
   Global	Bietet eine Übersicht über das Verhalten des Modells für alle Vorhersagen und zeigt die Gesamtauswirkung jeder Eingabefunktion. Wählen Sie Global aus, um ein Diagramm der Bedeutung Ihrer Eingabefelder für Vorhersagen für alle Ausgabeklassen als Ganzes zu öffnen.
   Ihr Ausgabeklassenwert	Konzentriert sich nur auf das Verhalten des Modells für die ausgewählte Klasse und zeigt, wie Eingabefunktionen zu Vorhersagen auf Pro-Klasse-Basis beitragen. Wählen Sie eine der möglichen Ausgabeklassen aus, um ein Diagramm zu öffnen, das zeigt, wie wichtig Ihre Eingabefelder für Vorhersagen für diese Klasse sind.

5. Starten Sie die grafische Analyse, indem Sie einen Wert aus der Dropdown-Liste auswählen.
   Die y-Achse zeigt Ihre Eingabefelder und die x-Achse zeigt die numerische Wichtigkeit für jede Eingabe. Die Bezeichnung des Diagramms spiegelt die Klasse wider, die Sie in der Dropdown-Liste ausgewählt haben.
   Sie können den Mauszeiger über einen Balken bewegen, um den numerischen Prozentsatz für die Wichtigkeit jeder Eingabe anzuzeigen.

Ergebnisse

Ein positiver Wichtigkeitswert bedeutet, dass das Eingabefeld die Vorhersagepunktzahl des Modells erhöht. Ein negativer Wert bedeutet, dass das Eingabefeld die Vorhersagepunktzahl verringert.

Nächste Maßnahme

Erwägen Sie, Eingabefelder mit niedrigen Wichtigkeitsbewertungen zu verwerfen. Trainieren Sie Ihr Modell nach der Änderung neu.