Modelos de idioma grandes no ServiceNow AI Platform

ServiceNow AI Platform® Utiliza modelos de linguagem grande (LLM) para funcionalidade de IA generativa e IA agencial. Você pode escolher ServiceNow® LLM ou modelos de terceiros compatíveis. Os LLMs trazem o. Aplicação de IA generativa compreender e gerar linguagem humana e processar uma grande quantidade de dados.

Provedores de modelo de terceiros

ServiceNow® Oferece suporte a provedores de modelo de IA de terceiros, o que significa que a persona do administrador pode selecionar um idioma grande de terceiros ou um provedor de modelo de IA para Now Assist habilidades disponíveis prontas para uso. . Serviço Now LLMÉ o LLM padrão. Encontre os provedores de modelo compatíveis, os serviços de LLM e a versão.

Tabela 1. Provedores de modelo de IA de terceiros

Provedor de modelos	Modelo de idioma grande	Versão	Política de implantação
ServiceNow®	Serviço Now LLM	Atualização mais recente da sua instância	Padrão
Microsoft Azure	Azure OpenAI	OpenAI GPT-4,1 e GPT-4,1-mini	https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/deployment-types#global-standard

Nota:

Alguns fluxos de trabalho de habilidades, agentes e agentes prontos para uso não são compatíveis com Serviço Now LLM ou provedores de modelo de terceiros. Para saber mais sobre as exceções ao serviço LLM e ao suporte de provedores de modelo de terceiros, consulte https://support.servicenow.com/kb?id=kb_article_view&sysparm_article=KB2222333

Seleção de modelo de idioma grande

Esta seleção é compatível com vários níveis, como habilidade, grupo de habilidades e níveis de instância. No entanto, os controles que definem o mapeamento de LLMs para diferentes habilidades, permitidos em vários locais globais, são configurados e aprovados em Torre de controle de IA Pelo administrador de IA. As opções do provedor de modelo para habilidades personalizadas criadas em Now Assist kit de habilidades e. Estúdio de agentes de IA também são configurados em Torre de controle de IA. Consulte para saber mais.

. Gerencie modelos de idioma grandes o recurso permite que a persona de administrador execute ações adicionais, como:

• Edite o provedor de modelo na instância, grupo de habilidades e níveis de habilidade
• Desative habilidades ativas que não estão em conformidade com fallback como Não . Consulte Provedores de modelos de IA para saber mais.
• Exiba o histórico de auditoria sobre atualizações de política pelo administrador de IA em Torre de controle de IA
• Selecione Provedores de modelo permitidos em instâncias separadas por domínio.

Consulte Gerenciar provedores de modelos para saber mais sobre como gerenciar.

Para obter mais informações sobre como selecionar e atualizar provedores de modelo, consulte Editar provedores de modelo.

• Serviço Now LLM atualizações
  . Serviço Now LLM Fornece acesso a modelos de linguagem grande especializados (LLMs) desenvolvidos pela ServiceNow. Ele também fornece acesso a LLMs de código aberto que são selecionados, configurados ou aprimorados pela ServiceNow, da comunidade da ServiceNow e de parceiros. Revise esses materiais de referência e os cartões de modelo para obter informações adicionais sobre Serviço Now LLM e sobre os modelos usados.
• Diretrizes gerais para escrever instruções para modelos de linguagem grande (LLMs) da IA generativa
  Ao usar Now Assist Produtos e habilidades, você pode ter a opção de dar instruções específicas ou outras orientações para o LLM. Escrever instruções de IA generativa é diferente de conduzir uma pesquisa de palavra-chave. Use as seguintes diretrizes gerais ao elaborar suas instruções.