Explicabilidade do modelo

Analise a importância de cada campo de entrada para as previsões do seu modelo usando a explicabilidade do modelo. Crie um modelo de classificação de fluxo de trabalho que inclui uma análise gráfica da importância do recurso executando o script fornecido.

Antes de Iniciar

• Este método usa a API de solução de classificação de fluxo de trabalho, em vez do formulário de definição de solução, para criar e treinar um modelo com explicabilidade adicionada. Para obter informações sobre os componentes dos modelos de classificação de fluxo de trabalho, consulte Criar e treinar uma solução de classificação.
• Função necessária: ml_admin ou admin

Por Que e Quando Desempenhar Esta Tarefa

A explicabilidade do modelo ajuda a identificar os principais recursos que influenciam as previsões do modelo durante o treinamento.

Nota:

A explicabilidade não pode ser adicionada a um modelo existente. Este método usa um script para criar e treinar um novo modelo de classificação de fluxo de trabalho. Para obter mais informações sobre como criar scripts de modelos de aprendizado de máquina, consulte Como usar APIs de aprendizado de máquina.

O script fornecido no procedimento cria e treina um modelo com explicabilidade definida como verdadeira. No formulário de solução do novo modelo, uma guia adicional chamada Importância do recurso é exibida. Esta guia oferece um gráfico da contribuição relativa de cada entrada para a previsão.

Procedimento

1. Navegar até Tudo > Definição do Sistema > Scripts - Segundo Plano.
2. Edite o filtro de consulta e os valores de tabela, campo e variável no script a seguir de acordo com o modelo planejado e execute o script.

   // Define a dataset
                       var myIncidentData = new sn_ml.DatasetDefinition({
                       'tableName': 'incident',
                       'fieldNames': ['category', 'short_description', 'sys_updated_by', 'assignment_group', 'description', 'priority'],
                       'encodedQuery': 'activeANYTHING'
                       });
                       
                       // Define a classification solution definition with explainability field
                       var mySolution = new sn_ml.ClassificationSolution({
                       'label': 'model explainability',
                       'dataset': myIncidentData,
                       'predictedFieldName': 'category',
                       'inputFieldNames': ['short_description', 'priority'],
                       //setting the explainability field to true.
                       'explainability': true,
                       });
                       
                       // Add solution to ClassificationSolutionStore
                       var my_unique_name = sn_ml.ClassificationSolutionStore.add(mySolution)
                       
                       // Submit training job
                       var solutionVersion = mySolution.submitTrainingJob();
                   

   Nota:

   Substitua o filtro de consulta e os nomes de tabela, campo e variável neste script pelos seus próprios valores.
3. Navegue até a tabela Soluções de ML [ml_solution] e abra sua nova solução selecionando o valor do campo Ativo.
4. No formulário de solução, localize e abra a guia Importância do recurso.
   A Importância do recurso exibe uma lista suspensa.

   

   • O rótulo desta lista suspensa é o nome do campo de saída (previsto), portanto, o rótulo é específico para cada modelo.
   • Os valores na lista suspensa são as classes de saída possíveis para o campo de saída, mais a opção Global.

   Opção de lista	Descrição
   Global	Fornece uma visão geral de como o modelo se comporta em todas as previsões, mostrando o impacto geral de cada recurso de entrada. Selecione Global para abrir um gráfico da importância dos campos de entrada para previsões de todas as classes de saída como um todo.
   Seu valor de classe de saída	Enfoca o comportamento do modelo somente para a classe escolhida, mostrando como os recursos de entrada contribuem para as previsões por classe. Selecione uma das classes de saída possíveis para abrir um gráfico da importância dos campos de entrada para as previsões dessa classe.

5. Inicie a análise gráfica selecionando um valor na lista suspensa.
   O eixo y mostra os campos de entrada e o eixo x mostra a importância numérica de cada entrada. O rótulo do gráfico reflete a classe que você escolheu na lista suspensa.
   Você pode passar o mouse sobre uma barra para exibir a porcentagem numérica da importância de cada entrada.

Resultado

Um valor de importância positivo significa que o campo de entrada aumenta a pontuação de previsão do modelo. Um valor negativo significa que o campo de entrada diminui a pontuação de previsão.

O que Fazer Depois

Considere descartar campos de entrada com pontuações de importância baixa. Treine novamente seu modelo após a modificação.