Apporter votre propre clé pour l’intégration d’un fournisseur d’IA tiers

La fonctionnalité BYOK (Bring Your Own Key) vous permet d’utiliser vos propres informations d’identification d’API provenant de fournisseurs d’IA dans le cloud pris en charge, tels que Azure OpenAI, Amazon Bedrock et Google Gemini, pour exécuter Now Assist des compétences et des agents IA.

Lorsque BYOK est activé, Now Assist envoie les demandes de modèle via votre compte de fournisseur d’IA dans le cloud au lieu de l’infrastructure ServiceNow AI Platform . Cette approche vous permet de conserver la propriété de votre configuration IA, de vos contrôles de sécurité et de votre environnement de traitement des données tout en continuant à utiliser Now Assist les fonctionnalités.

BYOK prend en charge les mêmes modèles d’IA que ceux ServiceNow AI Platform pris en charge. Une fois que vous avez configuré vos informations d’identification API, Now Assist utilise les ressources de votre fournisseur pour traiter les demandes au lieu d’utiliser le fournisseur d’IA par défaut ServiceNow . BYOK garde vos clés sous votre contrôle et les charges de travail de l’IA s’exécutent dans votre environnement cloud.

Remarque :

L’utilisation du compte du fournisseur d’IA dans le cloud de votre organisation peut entraîner des frais supplémentaires de la part de ce fournisseur. Vérifiez la tarification et les conditions d’utilisation du fournisseur avant d’activer BYOK.

ServiceNow Fournisseurs de modèles intégrés

BYOK prend en charge les fournisseurs d’IA cloud suivants :

• Azure OpenAI
• Anthropic Claude sur AWS, accessible par Bedrock Amazon
• Google Gemini

Configuration d’une connexion BYOK avec un fournisseur d’IA dans le cloud

Pour utiliser les ressources de votre fournisseur d’IA dans le cloud au sein de votre ServiceNow instance, configurez une connexion entre ServiceNow votre fournisseur. Les étapes de configuration varient selon le fournisseur, mais suivent une configuration workflow de haut niveau similaire aux étapes suivantes :

1. Créez une connexion et des informations d’identification pour le fournisseur, telles que le point de terminaison, la clé API et la région.
2. Activez BYOK pour le fournisseur dans Now Assist Admin.
3. Mappez ServiceNow les alias de modèles aux versions de modèles de fournisseurs. Par exemple, mapper gemini_large → 2.5 Pro.
4. Vous pouvez également remplacer les variantes de chaque compétence dans la gestion des versions.
5. Validez que les demandes utilisent votre compte de fournisseur d’IA en examinant les journaux HTTPS sortants.

Pour obtenir des instructions étape par étape pour chaque fournisseur d’IA dans le cloud pris en charge, consultez Configurer apporter votre propre clé (BYOK) pour Now Assist et Agents IA [KB2666298] dans la Now Support Knowledge base.

Configuration BYOK de haut niveau pourAzure OpenAI

1. Configurez la Azure OpenAI connexion avec votre propre clé à utiliser Azure OpenAI dans votre ServiceNow instance.

   Pour plus d'informations, consultez Configurer les informations d’identification API pour Azure OpenAI.

2. Configurez votre nom de modèle et de déploiement Azure OpenAI afin que Contrôleur d'IA générative votre ServiceNow instance puisse le reconnaître et l’utiliser.

   Pour plus d'informations, consultez Create a custom embedding model.

3. Modifiez la configuration de l’invite pour écrire vos propres invites à envoyer aux Azure OpenAI LLM.

   Pour plus d'informations, consultez Configurer un connecteur LLM (Large Language Model) générique.

4. Changez de fournisseur pour utiliser BYOK pour le traitement de l’IA.

   Pour plus d'informations, consultez Gérer l'intégration.

Tâches associées

• Configurer un chemin d’accès aux ressources personnalisé pour les modèles BYOK