Diretrizes para segmentos
Siga estas sugestões para ajudar você a usar segmentos na camada semântica de forma eficaz.
Diretrizes gerais para segmentos
- Teste os segmentos fazendo perguntas de linguagem natural que devem corresponder a eles. O segmento deve aparecer em .
- Monitore os logs de consulta para verificar se os segmentos estão sendo correspondidos corretamente e para identificar os segmentos mais valiosos.
- Desabilite segmentos gerados automaticamente com ruído em vez de tentar se sobrepor a vários segmentos manuais.
- Use frases naturais que correspondam a como seus usuários realmente falam.
- Mantenha um segmento por conceito para evitar confusão.
- Refine os nomes e descrições do segmento com base no feedback do usuário e nos padrões de uso
- Considere criar segmentos manuais para perguntas recorrentes que não são bem tratadas pelos segmentos existentes.
Diretrizes para segmentos manuais
Os segmentos manuais são a maneira recomendada de enviar pesquisas salvas específicas do domínio com sua aplicação. Eles recebem um impulso de prioridade sobre os segmentos automatizados durante a pesquisa, e o LLM é instruído a reter todos os seus filtros, a menos que seja completamente irrelevante.
- Comece com tabelas de alto valor e alto tráfego
- Concentre os segmentos manuais nas tabelas que os usuários mais perguntam. Alguns segmentos bem elaborados no incidente, sc_req_item ou na tabela primária da sua aplicação terão mais impacto do que a ampla cobertura em tabelas raramente consultadas.
- Combine cada filtro com muitas opções com um nome claro
- Se o seu segmento filtrar valores de escolha, por exemplo,
prioridade 6: 2- o nome do segmento deve traduzir esses códigos para o idioma comercial. O LLM corresponde ao nome, não ao filtro. "Incidentes críticos e altos resolvidos" é pesquisável, masprioridade 6: 2não é. - Use descrições para diferenciar segmentos semelhantes
- Se você enviar vários segmentos para a mesma tabela, por exemplo, "Incidentes em aberto" e "Incidentes críticos em aberto", as descrições ajudam o LLM a escolher o correto. Sem descrições, o LLM pode escolher arbitrariamente entre duas correspondências próximas.
- Mantenha os filtros focados
- Um segmento com 15 condições de filtro é difícil para o LLM raciocinar e provavelmente será truncado. Se você tiver um caso de uso complexo, divida-o em vários segmentos com filtros mais simples. O LLM pode combinar filtros de diferentes segmentos ao criar uma consulta.
- Complemente descrições semânticas com segmentos
- Os segmentos manuais e descrições semânticas (configuração de entidade/coluna) funcionam juntos. As descrições ajudam o LLM a entender o que uma tabela e suas colunas representam. Os segmentos ajudam o LLM a entender como os usuários normalmente filtram essa tabela. Para obter melhores resultados, envie ambos.
- Evite duplicar segmentos automatizados
- Antes de criar um segmento manual, verifique se um segmento automatizado já cobre o mesmo filtro. Se alguém tiver um nome ruim, considere se melhorar a origem (por exemplo, renomear o relatório) é uma abordagem melhor do que criar um segmento manual duplicado.
- Revisão após a implantação
- Após o envio, monitore quais segmentos estão sendo correspondidos e se as consultas geradas estão corretas. Se um segmento estiver correspondente, mas produzindo resultados errados, o problema geralmente é o nome ser genérico demais ou o filtro ser muito amplo. Primeiro itere o nome e a descrição antes de ajustar as propriedades do sistema.
Sugestões de ajuste de propriedade
Use estas sugestões para ajustar as propriedades do sistema quando os segmentos não estiverem funcionando conforme o esperado. Para obter uma lista completa de todas as propriedades do segmento e seus padrões, consulte Propriedades de geração de consulta.
- Os segmentos não correspondem às perguntas do usuário
- Inferior segments_match_threshold(Por exemplo, defina como
0,60). O padrão0,70pode ser muito rigoroso para a terminologia específica do domínio em que a frase do usuário difere do nome do segmento. Comece mais baixo e aperte quando tiver segmentos suficientes. - Os segmentos manuais estão sendo ofuscados por automatizados
- Aumentando manual_segment_scale_factordá aos segmentos manuais uma borda mais forte, mas um aumento maior não significa necessariamente melhores resultados. Um segmento manual mal nomeado aumentado acima de um segmento automatizado genuinamente relevante degradará a qualidade da consulta. Antes de ajustar o impulso, verifique primeiro se o nome e a descrição do segmento manual estão bem escritos. Geralmente, essa é a correção real. Apenas aumente o fator se você estiver confiante de que seus segmentos manuais são de alta qualidade e ainda estão perdendo para correspondências automatizadas mais fracas.
- Excesso de segmentos irrelevantes no prompt do LLM
- Inferior segments_result_limit(por exemplo,
6ou8). Menos segmentos no prompt significa menos ruído para o LLM, mas também menos cobertura. Encontre o saldo do seu domínio. Ou aumentar segments_match_thresholdse você estiver vendo correspondências de baixa qualidade passarem. - Filtros longos truncados
- Aumentar max_filter_lengthse seus segmentos exigirem filtros complexos. Esteja ciente de que filtros mais longos consomem mais da janela de contexto do LLM e podem reduzir a qualidade geral da geração. Em vez disso, considere dividir um segmento complexo em vários segmentos focados.
- A pesquisa em lote está desabilitada e os segmentos manuais não estão aparecendo
- Habilite o. Pesquisa com IA propriedade segments.ais_batch_fetch_enabled. Sem a pesquisa em lote, os segmentos manuais e automatizados competem pelos mesmos slots de resultados. A pesquisa em lote fornece a cada tipo uma pesquisa dedicada, melhorando significativamente a cobertura do segmento manual.