Adicionar filtragem semântica e tratamento de erros para informações confidenciais

Crie filtros semânticos para solicitações e respostas de IA generativa para ajudar a filtrar tópicos confidenciais durante interações com IA generativa no Virtual Agent.

Antes de Iniciar

Você deve ter um tópico do Virtual Agent para o qual alternar quando um filtro detectar material indesejado. Os exemplos incluem um tópico de saída de texto sinalizando que ocorreu um erro ou um tópico que transfere o usuário para um atendente. O tópico deve estar publicado e ativo.

Função necessária: administrador

Por Que e Quando Desempenhar Esta Tarefa

Para ajudar a impedir conversas de IA generativa sobre tópicos confidenciais, você pode usar a filtragem semântica para ajudar a identificar frases em conversas do Virtual Agent. Identifique o material que você não deseja incluir em uma solicitação ou resposta de um LLM e adicione filtros para remover esse material. A Pesquisa semântica com IA pode ser usada para ajudar a determinar se um conteúdo confidencial está sendo discutido e acionar uma alternância para um tópico designado do Virtual Agent.

Procedimento

1. No navegador, acesse a tabela Grupo de filtros da IA generativa [sys_gen_ai_filter_group] inserindo sys_gen_ai_filter_group.list.
   Se você tiver Now Assist para Prestação de serviços de RH (HRSD), talvez já haja grupos criados para você. Você pode adicionar a esses grupos ou criar o seu próprio. Se você não tiver Now Assist para HRSD, ainda poderá criar o seu próprio.
2. Selecione Novo.
3. No campo Nome, insira um nome para o grupo.
4. No campo Descrição, insira uma descrição para o grupo.
   Uma descrição de grupo de filtros pode começar com "Este filtro inclui problemas/preocupações com o local de trabalho, como bem-estar, equidade e ética dos funcionários". Você pode adicionar exemplos desses problemas/preocupações no local de trabalho na descrição dessa categoria de material confidencial.
5. Selecione Enviar para criar o grupo.
6. No navegador, acesse a tabela Filtro de IA generativa [sys_gen_ai_filter] inserindo sys_gen_ai_filter.list.
7. Selecione Novo.
8. Na categoria Grupo de filtros, escolha um Grupo de filtros de IA generativa.
9. Opcional: No campo Configuração de filtro, use o valor "portal" para determinar quando o filtro deve ser executado, como definir "portal" como "sp" para aplicar o filtro somente no portal sp.
   Use uma lista separada por vírgulas para selecionar vários valores.
10. No campo Limite de filtro, defina o limite para determinar quando o LLM deve gerar o erro de filtro.
    Quanto menor o valor, mais sensível será o filtro. Experimente diferentes limites de filtro para ajudar a definir seus limites preferenciais.
11. Para o campo Ordem, escolha a ordem para aplicar os filtros.
    Os filtros são processados da ordem mais baixa para a mais alta. Um filtro com ordem 100 é processado antes de um filtro com ordem 200.
12. No campo Descrição, insira uma descrição do filtro.
    Assim como o registro Grupo de filtros da IA generativa, quanto mais descritivo você for, maior será a probabilidade de o LLM entender a finalidade do filtro.
13. Defina o tópico de erro do filtro como o tópico que deve ser executado quando o filtro detectar conteúdo indesejado, como um tópico de transferência para um atendente ou um tópico de manipulação de erros.
14. Selecione Aplicar a todos para aplicar o filtro a todas as capacidades (resumir, gerar conteúdo etc.).
    Importante:

    Se você não selecionou Aplicar a todos, precisará criar um registro de configuração de filtro da IA generativa para mapear o filtro para a capacidade. Consulte as etapas adicionais abaixo para criar o mapeamento.
15. Selecione Enviar para criar o filtro.
    
16. Para mapear um filtro para uma capacidade, crie um registro de configuração de filtro de IA generativa.
    1. No navegador, acesse a tabela Configuração de filtro da IA generativa [sys_gen_ai_filter_config] inserindo sys_gen_ai_filter_config.list.
    2. Selecione Novo.
    3. No campo Tabela de configuração, selecione Capacidade do OneExtend [sys_one_extend_capability].
    4. No campo ID de configuração, selecione o ícone de pesquisa de lista (ícone) para selecionar uma configuração.
    5. No campo Documento, selecione a capacidade à qual você deseja que o filtro se aplique.
       Se você quiser que o filtro se aplique a algumas, mas não a todas as capacidades, será necessário criar um registro de configuração de filtro de IA generativa para cada capacidade.
    6. Selecione OK para fazer sua seleção e fechar o modal.
    7. Selecione Enviar.
       
17. No navegador, acesse a tabela Amostra de filtro de IA generativa [sys_gen_ai_filter_sample] inserindo sys_gen_ai_filter_sample.
18. Selecione Novo para criar uma amostra.
19. No campo Texto de exemplo, insira um exemplo do que você deseja que o filtro detecte.
    Cada amostra pode ser curta e ter mais registros de amostra ajuda a Pesquisa semântica com IA a determinar o que o filtro deve detectar. Se você descobrir que determinados termos ou declarações não estão sendo detectados pelo filtro, tente adicionar mais exemplos para ver se o filtro melhora.
20. Para habilitar o filtro em um atributo, acesse a tabela Capacidade do OneExtend [sys_one_extend_capability] inserindo sys_one_extend_capability.list no navegador.
    Depois de criar o grupo de filtros de IA generativa, o filtro de IA generativa e as amostras de filtro de IA generativa, você precisa habilitar o filtro em um atributo da capacidade que está configurando.
21. Abra o registro da capacidade.
22. Defina o campo Aplicar filtro como verdadeiro para aplicar o filtro.
    
23. Repita para cada capacidade em que você deseja que o filtro esteja.

Resultado

A filtragem semântica agora está disponível para a capacidade no atributo que você configurou.

O que Fazer Depois

Configure a manipulação de dados confidenciais para substituir informações de identificação pessoal por texto de exemplo em solicitações enviadas para o LLM.