Traga sua própria chave para a integração do provedor de IA terceirizado

O recurso Traga sua própria chave (BYOK) permite que você use suas próprias credenciais de API de provedores de IA em nuvem compatíveis, como Azure OpenAI, Amazon Bedrock, e. Google Gemini, para executar Now Assist E agentes de IA.

Quando o BYOK está habilitado, Now Assist Envia solicitações de modelo por meio da sua conta do provedor de IA na nuvem em vez de ServiceNow AI Platform infraestrutura. Essa abordagem permite que você mantenha a propriedade da configuração de IA, dos controles de segurança e do ambiente de processamento de dados enquanto continua a usar Now Assist.

O BYOK é compatível com os mesmos modelos de IA que o. ServiceNow AI Platform. Depois de configurar suas credenciais de API, Now Assist usa os recursos do provedor para processar solicitações em vez de usar o padrão ServiceNow Provedor de IA. O BYOK mantém suas chaves sob seu controle e cargas de trabalho de IA em execução no seu ambiente de nuvem.

Nota:

O uso da conta do provedor de IA na nuvem da sua organização pode resultar em cobranças adicionais desse provedor. Revise os preços e os termos de serviço do provedor antes de habilitar o BYOK.

ServiceNow provedores de modelos integrados

O BYOK é compatível com os seguintes provedores de IA na nuvem:

• Azure OpenAI
• Anthropic Claude na AWS, que é acesso ible até Amazon Base
• Google Gemini

Configurando uma conexão BYOK com um provedor de IA na nuvem

Para usar os recursos do provedor de IA na nuvem em seu ServiceNow instância, configure uma conexão entre ServiceNow e seu provedor. As etapas de configuração variam de acordo com o provedor, mas seguem uma configuração de alto nível semelhante fluxo de trabalhoas seguintes etapas:

1. Crie conexão e credenciais para o provedor, como endpoint, chave de API e região.
2. Habilite o BYOK para o provedor em Now Assist Admin
3. Mapa ServiceNow aliases de modelo para versões de modelo do provedor. Por exemplo, Mapa gemini_large → 2,5 Pro.
4. Como opção, substitua variantes em cada habilidade na Gestão de versões.
5. Confirme se as solicitações estão usando sua conta do provedor de IA revisando os logs HTTPS de saída.

Para obter instruções passo a passo para cada provedor de IA na nuvem compatível, consulte Configure Traga sua própria chave (BYOK) para Now Assist E agentes de IA [KB2666298] artigo no Now Support Knowledge Base .

De alto nível BYOK configuração para Azure OpenAI

1. Configurar Azure OpenAI conexão com sua própria chave para usar Azure OpenAI em seu ServiceNow instância.

   Para obter mais informações, consulte Configure credenciais de API para Azure OpenAI.

2. Configure seu Azure OpenAI nome do modelo e da implantação em Controlador de IA generativa seu ServiceNow a instância pode reconhecê-lo e usá-lo.

   Para obter mais informações, consulte Create a custom embedding model.

3. Modifique a configuração de prompt para gravar seus próprios prompts para enviar para o. Azure OpenAI LLMs.

   Para obter mais informações, consulte Configure um conector genérico de modelo de linguagem grande (LLM).

4. Mude os provedores para usar BYOK para processamento de IA.

   Para obter mais informações, consulte Gerenciar integração.

Tarefas relacionadas

• Configure um caminho de recurso personalizado para modelos BYOK