Use um conector LLM genérico para conectar o. ServiceNow AI Platform Com um provedor de IA externo para usar recursos de IA generativa no personalizados Virtual Agent Tópicos, fluxos ou scripts, como scripts de regra de negócios e em segundo plano.
Antes de Iniciar
Você deve ter acesso à API de um LLM externo para configurar as credenciais.
Função necessária: administrador
Por Que e Quando Desempenhar Esta Tarefa
Você pode conectar um LLM externo ao ServiceNow AI Platform Ao criar um alias de conexão para o modelo, crie um registro de modelo que aponte para o alias, crie um registro de prompt para o modelo e, em seguida, crie um registro de transformador para transformar a solicitação ou resposta do LLM.
Procedimento
-
Navegar até .
-
Selecione Credenciais de chave de API
-
Em Nome , atribua um nome à credencial de API.
Incluir o nome do modelo na Credencial de chave de API facilita a identificação posterior.
-
Em Chave de API Insira a chave de API do seu modelo.
-
Selecione Enviar Para criar a credencial.
Nesta etapa, você tem as informações da chave de API para o LLM externo configuradas.
-
Navegar até .
-
Selecione Novo.
-
Em Nome , insira um nome para o alias da credencial.
Não é necessário mudar nenhum outro valor de campo.

-
Selecione Enviar.
-
Depois de ser redirecionado para a exibição de lista, localize e abra o registro que você acabou de criar.
-
Selecione Novo Na lista relacionada Conexões para criar um novo registro de Conexão.
-
Insira o nome da conexão no campo Nome.
-
Em Credencial , selecione o registro de credencial que você criou com a chave de API do modelo.
Você pode pesquisar a lista de credenciais digitando o nome da credencial no campo. Você também pode selecionar o ícone de pesquisa (

para abrir um modal com a lista completa.
-
Em Alias de conexão , selecione o registro de alias que você criou.
-
Em URL de conexão, insira a URL do endpoint do modelo.
Por exemplo, um modelo de Cara de abraço pode começar com "https://api-inference.huggingface.co". Você pode deixar os campos restantes como estão.

-
Selecione Enviar.
Resultado
Você tem o alias de conexão e credencial a ser usado para conectar um LLM genérico para usar recursos de IA generativa no ServiceNow AI Platform. Você pode confirmar isso navegando até e confirmando que a conexão aparece na lista relacionada.
O que Fazer Depois
Para obter mais informações sobre como configurar um LLM genérico, consulte Configure um conector LLM genérico