Descoberta de tópico do LLM no Virtual Agent
Os modelos de linguagem grandes (LLMs) permitem que o Virtual Agent processe declarações do usuário em linguagem simples. Conversas que usam LLMs podem ter desempenhos melhores do que as conversas que usam Compreensão da linguagem natural (NLU), com uma configuração mais fácil.
Como os LLMs funcionam no Virtual Agent
Assista a este vídeo para saber mais sobre tópicos de LLM em Designer do Virtual Agent.
Ao criar um tópico em Designer do Virtual Agent, você pode selecionar LLM como o tipo de modelo para o tópico sempre que o painel Now Assist no Virtual Agent estiver ativado. O Virtual Agent usa IA generativa de LLM para descobrir tópicos que correspondem à intenção do usuário.
Ao contrário dos tópicos NLU, os LLMs não exigem que modelos, intenções ou palavras-chave sejam vinculados ao tópico. Os LLMs podem descobrir tópicos e executar tarefas relacionadas ao idioma, como geração de texto para a criação de resumos de casos e anotações de resolução, sem precisar de meses de treinamento nos modelos NLU. De modo geral, é possível criar, configurar e implantar tópicos do LLM mais rapidamente do que trabalhando com NLU.
Com os LLMs, o Virtual Agent pode fazer o seguinte:
- Executar a descoberta de tópicos sem precisar de uma intenção declarada única em um determinado tópico.
- Encontrar intenções sem palavras-chave de backup, como na modelagem de NLU.
- Extrair valores de entidade sem mapeamento anterior, como na modelagem NLU.
- Lidar com várias mudanças de tópico da conversa em uma única sessão.
Para obter mais informações sobre LLMs, consulte Large language models on the ServiceNow AI Platform®.
Descoberta de tópicos
Com a descoberta de tópicos do LLM, autores de tópicos não precisam mais criar e manter modelos e intenções de NLU complexos com palavras-chave de backup. O LLM faz todo o trabalho pesado para você. O único requisito é uma descrição de tópico em linguagem simples e robusta na guia Propriedades em Designer do Virtual Agent. O LLM usa essa descrição para encontrar a melhor correspondência de tópico para o enunciado do usuário. Se houver várias correspondências possíveis, o usuário verá uma lista de tópicos para escolher.
Por exemplo, se um usuário pedir que o Virtual Agent calcule uma taxa de compartilhamento de viagem, o LLM corresponderá ao enunciado do usuário com um tópico existente que pode calcular o compartilhamento de viagem com uma dica.
Extração de entidade
Com os tópicos do LLM, o LLM tem todas as informações necessárias para determinar se um enunciado tem as informações para atender a uma solicitação. Diferente dos modelos NLU, você não precisa associar entidades a um nó de entrada do usuário ou adicionar entidades NLU sem nó como variáveis de entrada a um tópico. O LLM simplesmente encontra a entidade que mais se adapta à intenção do usuário.
Alternância de tópicos
A alternância de tópicos é mais rápida e fácil com LLMs em comparação com tópicos NLU. O LLM processa suas solicitações para mudar a intenção em linguagem natural e ativa o tópico apropriado.
Por exemplo, se você começar uma conversa pesquisando sobre um telefone celular, não será preciso cancelar o primeiro pedido ou reiniciar a conversa. Você poderá solicitar que o Virtual Agent busque um laptop. Assim, o Virtual Agent mudará imediatamente do tópico "telefone celular" para o tópico "laptop". A alternância de tópicos pode ser feita durante uma consulta, mas não em um fluxo de ordenação de catálogo.
Outro exemplo é quando um usuário pode fazer uma pergunta casual ou se envolver em uma conversa superficial. A pergunta pode não estar relacionada à solicitação original. Você pode criar tópicos de conversa superficial ou configurar filtros de conversa superficial para ajudar o Virtual Agent a corresponder e iniciar a conversa apropriada para o tópico alternado. Para obter mais informações, consulte Criar um tópico de conversa superficial e Configure small talk filters.