Gerenciar modelos de IA

Acesse e selecione o provedor LLM (large language model) usado para vários Now Assist habilidades. A seleção afeta todas as habilidades da capacidade.

Antes de Iniciar

Função necessária: administrador, sn_nowassist_admin.nsa_admin

Este recurso está disponível em Administração do Now Assist versões 6,2 e. Yokohama patch 6 em diante.

Para habilitar a seleção do provedor de modelo, certifique-se de que a habilidade esteja disponível nessa região. Os controles de configuração dos provedores de modelo aprovados e as habilidades de conformidade correspondentes para regiões específicas são aprovados em Torre de controle de IA Pelo administrador de IA. Por exemplo, para atualizar o provedor de modelo para Now Assist Perguntas e Respostas Genius Results, certifique-se de que todas as habilidades em Habilidades conversacionais estejam disponíveis e ativas na região.

De acordo com Torre de controle de IA, a seleção do provedor de modelo está disponível em vários níveis, incluindo habilidade, grupo de habilidades e níveis de instância em Administração do Now Assist. Portanto, em uma situação em que uma habilidade não está em conformidade ou um provedor de modelo não está disponível em uma região específica, Administração do Now Assist o console apresenta a persona do administrador com opções de escopo de região alternativas que buscam permissões de aprovação para prosseguir com a seleção do provedor de modelo. Por exemplo: Você opta por alternar para outro provedor de modelo para usar um específico Now Assist habilidade. Considere, o escopo da região deve ser alterado para o local global para que a habilidade funcione. Aqui, você só pode prosseguir depois de consentir com a mudança do escopo da região.

Nota:

Para mercados regulamentados:

• . Gerenciar LLM a opção não estará disponível para os clientes no Administração do Now Assist interface do usuário.
• Apenas Serviço Now LLM as habilidades estarão disponíveis para os clientes. Qualquer habilidade que aproveite provedores externos (por exemplo, Azure) ficará oculta no Administração do Now Assist console. Com exceção da região do NSC, aproveitamento de habilidades Azure OpenAI está disponível para os usuários.

Procedimento

1. Navegar até Tudo > Administração do Now Assist > Configurações.
2. Navegar até Configurações > Gerenciar provedores de modelos.
   
   
   
3. Revise-os no Gerenciar provedores de modelo página:
   • Resumo da política definido por sua organização sobre habilidades usando provedores de modelo fora de conformidade.
     Nota:

     Observe os detalhes da exceção de roteamento e fallback. Esses detalhes também são derivados de Torre de controle de IA configurações.
   • Provedores de modelo atribuídos ao Now Assist habilidades e grupos de habilidades.
   • Atualizações de políticas e habilidades pelo administrador de IA em Torre de controle de IA em Histórico de mudanças guia.

• Gerenciar provedores de modelo
  Edite ou personalize o provedor de modelo para uma habilidade ou grupo de habilidades no nível de instância na lista de provedores de modelos de terceiros compatíveis, incluindo o padrão Serviço Now LLM. Você também pode revisar a política de modelo definida pela sua organização e exibir o histórico de mudanças aqui.
• Gerenciar integração
  Escolha o tipo de integração preferencial para configurar os provedores de modelo disponíveis. Há duas maneiras de configurar um provedor de modelo no Administração do Now Assist. Você pode selecionar Fabricante do equipamento original (OEM) ou Traga sua própria chave (BYOK).
• Gerenciar versão
  Gerencie a versão dos provedores de modelo em habilidades e níveis de instância. Você pode mudar e atualizar versões das habilidades personalizadas e prontas para uso.