Selecione o LLM para agentes de IA e fluxos de trabalho do agente

Escolha o provedor de serviço de modelo de idioma grande (LLM) para Now Assist Agentes de IA em Estúdio de agentes de IA.

Antes de Iniciar

Função necessária: sn_aia.admin

Por Que e Quando Desempenhar Esta Tarefa

LLMs fazem parte da fundação da IA agentic. LLMs diferentes podem fornecer desempenho e respostas um pouco diferentes. Você pode selecionar qual LLM usar em um nível global para IA agencial no Estúdio de agentes de IA para ajudar a ajustar a qualidade da resposta para melhor se adequar aos seus fluxos de trabalho do agente.

Nota:

Se você já tiver agentes criados e mudar o LLM global, deverá testar os agentes depois de fazer a mudança.

Dependendo da sua região, pode ser necessário consentir em usar um provedor de serviço diferente.

Procedimento

1. Navegar até Tudo > Studio do agente de IA > Configurações.
2. Navegue até Gerenciar LLMs guia.
3. No menu suspenso do campo do provedor, selecione seu provedor de LLM.

   Suas escolhas são as seguintes:

   • OpenAI do Azure
   • LLM genérico

   Se você usar o Azure OpenAI, o Virtual Agent poderá descobrir agentes de IA em conversas. Se Now LLM Genérico estiver habilitado, a descoberta do agente com IA não estará disponível.

4. Selecione Salvar para salvar suas mudanças.

Resultado

Seu LLM escolhido é usado globalmente para todos os agentes de IA e fluxos de trabalho do agente.