Configurer les informations d’identification API pour un connecteur LLM (Large Language Model) générique

Utilisez un connecteur LLM générique pour vous connecter à un fournisseur d’IA externe afin d’utiliser ServiceNow AI Platform les options de l’IA générative dans des rubriques, des flux ou des scripts personnalisés Agent virtuel , tels que des scripts en arrière-plan et des scripts de règles métier.

Avant de commencer

Vous devez avoir accès à l’API d’un LLM externe afin de configurer les informations d’identification.

Rôle requis : admin

Pourquoi et quand exécuter cette tâche

Vous pouvez vous connecter à un LLM externe en ServiceNow AI Platform créant un alias de connexion au modèle, créer un enregistrement de modèle qui pointe vers l’alias, créer un enregistrement d’invite pour le modèle, puis créer un enregistrement de transformateur pour transformer la demande ou la réponse à partir du LLM.

Procédure

1. Accédez à la Tous > Connexions et informations d'identification > Informations d'identification.
2. Sélectionner les informations d’identification de clé API
3. Dans le champ Nom , attribuez un nom à vos informations d’identification API.
   L’inclusion du nom du modèle dans les informations d’identification de clé API facilite l’identification ultérieure.
4. Dans le champ Clé API, saisissez la clé API de votre modèle.
   
5. Sélectionnez Soumettre pour créer les informations d’identification.
   À cette étape, les informations sur la clé API du LLM externe sont configurées.
6. Accédez à la Tous > Connexions et informations d'identification > Alias de connexion et d’informations d’identification.
7. Sélectionnez Nouveau.
8. Dans le champ Nom , saisissez un nom pour l’alias d’informations d’identification.
   Vous n’avez pas besoin de modifier les autres valeurs de champ.
9. Sélectionnez Soumettre.
10. Une fois redirigé vers la vue de liste, recherchez et ouvrez l’enregistrement que vous venez de créer.
11. Sélectionnez Nouveau dans la liste connexe Connexions pour créer un nouvel enregistrement de connexion.
12. Entrez le nom de la connexion dans le champ Nom.
13. Dans le champ Informations d’identification , sélectionnez l’enregistrement Informations d’identification que vous avez créé avec la clé API du modèle.
    Vous pouvez rechercher la liste des informations d’identification en saisissant le nom des informations d’identification dans le champ. Vous pouvez également sélectionner l’icône de recherche ( ) pour ouvrir un modal avec la liste complète.
14. Dans le champ Alias de connexion , sélectionnez l’enregistrement d’alias que vous avez créé.
15. Pour URL de connexion, entrez l’URL du point de terminaison pour le modèle.
    Par exemple, un modèle de Hugging Face peut commencer par « https://api-inference.huggingface.co ». Vous pouvez laisser les champs restants tels quels.
16. Sélectionnez Soumettre.

Résultats

Vous devez disposer de l’alias de connexion et d’informations d’identification à utiliser pour connecter un LLM générique afin d’utiliser les options de l’IA générative sur le ServiceNow AI Platform. Vous pouvez le confirmer en accédant à Tous > Connexions et informations d'identification > Alias de connexion et d’informations d’identification et la confirmation que la connexion apparaît dans la liste connexe.

Que faire ensuite

Pour plus d’informations sur la configuration d’un LLM générique, consultez Configurer un connecteur LLM générique