Explicabilidade do modelo

Analise a importância de cada campo de entrada para as previsões do seu modelo usando a explicabilidade do modelo. Crie um modelo de classificação de fluxo de trabalho que inclua uma análise gráfica da importância do recurso executando o script fornecido.

Antes de Iniciar

• Este método usa a API Solução de classificação de fluxo de trabalho, em vez do formulário Definição de solução, para criar e treinar um modelo com explicação adicionada. Para obter informações sobre os componentes dos modelos de classificação de fluxo de trabalho, consulte Criar e treinar uma solução de classificação.
• Função necessária: Ml_admin ou admin

Por Que e Quando Desempenhar Esta Tarefa

A explicação do modelo ajuda a identificar os principais recursos que influenciam as previsões do modelo durante o treinamento.

Nota:

Explicação não pode ser adicionada a um modelo existente. Este método usa um script para criar e treinar um novo modelo de classificação de fluxo de trabalho. Para obter mais informações sobre a criação de scripts da criação de soluções de classificação, consulte ClassificationSolution - Global.

O script fornecido no procedimento cria e treina um modelo com explicabilidade definida como verdadeira. No formulário de solução do novo modelo, uma guia adicional rotulada Importância do recurso aparece. Esta guia oferece um gráfico da contribuição relativa de cada entrada para a previsão.

Procedimento

1. Navegar até Tudo > Definição do Sistema > Scripts - Segundo Plano.
2. Edite o filtro de consulta e os valores de tabela, campo e variável no script a seguir de acordo com seu modelo planejado e execute o script.

   // Define a dataset
                       var myIncidentData = new sn_ml.DatasetDefinition({
                       'tableName': 'incident',
                       'fieldNames': ['category', 'short_description', 'sys_updated_by', 'assignment_group', 'description', 'priority'],
                       'encodedQuery': 'activeANYTHING'
                       });
                       
                       // Define a classification solution definition with explainability field
                       var mySolution = new sn_ml.ClassificationSolution({
                       'label': 'model explainability',
                       'dataset': myIncidentData,
                       'predictedFieldName': 'category',
                       'inputFieldNames': ['short_description', 'priority'],
                       //setting the explainability field to true.
                       'explainability': true,
                       });
                       
                       // Add solution to ClassificationSolutionStore
                       var my_unique_name = sn_ml.ClassificationSolutionStore.add(mySolution)
                       
                       // Submit training job
                       var solutionVersion = mySolution.submitTrainingJob();
                   

   Nota:

   Substitua o filtro de consulta e os nomes de tabela, campo e variáveis neste script por seus próprios valores.
3. Navegue até a tabela Soluções DE ML [ml_solution] e abra sua nova solução selecionando o valor da Ativo campo.
4. No formulário de solução, localize e abra Importância do recurso guia.
   Importância do recurso exibe uma lista suspensa.

   

   • O rótulo desta lista suspensa é o nome do campo de saída (previsto), portanto, o rótulo é específico para cada modelo.
   • Os valores na lista suspensa são as classes de saída possíveis para o campo de saída, mais Global opção.

   Opção de lista	Descrição
   Global	Fornece uma visão geral de como o modelo se comporta em todas as previsões, mostrando o impacto geral de cada recurso de entrada. Selecione Global para abrir um gráfico da importância de seus campos de entrada para previsões para todas as classes de saída como um todo.
   Seu valor de classe de saída	Concentra-se no comportamento do modelo somente para a classe escolhida, mostrando como os recursos de entrada contribuem para previsões por classe. Selecione uma das classes de saída possíveis para abrir um gráfico da importância de seus campos de entrada para previsões para essa classe.

5. Inicie a análise gráfica selecionando um valor na lista suspensa.
   O eixo y mostra seus campos de entrada e o eixo x mostra a importância numérica de cada entrada. O rótulo do gráfico reflete a classe que você escolheu na lista suspensa.
   Você pode passar o mouse sobre uma barra para exibir a porcentagem numérica da importância de cada entrada.

Resultado

Um valor de importância positivo significa que o campo de entrada aumenta a pontuação de previsão do modelo. Um valor negativo significa que o campo de entrada diminui a pontuação de previsão.

O que Fazer Depois

Descartar campos de entrada com pontuações de baixa importância. Treine novamente seu modelo após a modificação.

Conceitos relacionados

• Uso de APIs de aprendizado de máquina

Tarefas relacionadas

• Criar e treinar uma solução de classificação

Tópicos relacionados

• ClassificationSolution - Global