Fournisseurs de modèles IA

  • Rversion finale: Zurich
  • Mis à jour 31 juil. 2025
  • 4 minutes de lecture

    • Explorez la section Fournisseurs de modèles IA pour configurer la disponibilité des modèles IA activés via Tour de contrôle IA.ServiceNow®

    Les fournisseurs de modèles IA vous permettent de sélectionner l’acheminement des données, de gérer les LLM et SLM tiers et de configurer les LLM tiers en sélectionnant les fournisseurs de modèles autorisés.

    Acheminement des données et fournisseurs de modèles

    Le routage des données est une technologie par laquelle les demandes LLM et SLM sont acheminées vers le centre de données le plus approprié. Cette technologie permet d’optimiser le trafic de données, ce qui réduit la latence et accélère les temps de réponse.

    La section Acheminement des données et fournisseurs de modèles vous permet d’acheminer des demandes de modèles IA et de sélectionner les fournisseurs de modèles autorisés.

    Il existe deux types d’acheminement des données :

    Acheminement des données régionales

    L’acheminement des données régionales achemine les demandes LLM et SLM vers les centres de données de votre région. Par exemple, si vous êtes dans la région APJC (Asie-Pacifique, Japon et Chine), ces demandes peuvent être acheminées vers le centre de données le plus approprié de la région APJC. L’acheminement des données régionales peut parfois être mandaté par les gouvernements de régions spécifiques.

    Acheminement des données globales
    Lorsque vous optez pour l’acheminement global des données, les demandes LLM et SLM sont acheminées vers le centre de données le plus approprié au niveau mondial.

    Vous pouvez configurer les fournisseurs LLM tiers à l’aide de l’option de modification en choisissant l’acheminement des données régional ou global et en sélectionnant tous les fournisseurs de modèles autorisés.

    Pour plus d’informations sur la configuration des LLM tiers pour les marchés réglementés et les régions AMS et EMEA, voir Exploration des LLM tiers et de la configuration de l’acheminement des données

    Pour en savoir plus sur la configuration des LLM tiers via la configuration de l’acheminement des données pour la région APJC, consultez Configurer des LLM tiers à l’aide de Tour de contrôle IA

    Secours et débordement

    Secours
    Si vous avez des systèmes ServiceNow® d’IA actifs qui ne sont pas pris en charge par vos fournisseurs de modèles activés, le « mécanisme de secours » permet à ces systèmes de continuer à fonctionner avec leurs fournisseurs par défaut. Toutefois, si vous choisissez de ne pas activer le secours, ces systèmes d’IA doivent être désactivés. Les systèmes d’IA déployés sur des fournisseurs de secours sont conformes à la liste des fournisseurs approuvés.
    Remarque :
    La solution de secours est activée par défaut et peut être modifiée.
    Retombée
    Les déploiements régionaux de modèles d’IA peuvent connaître une capacité limitée, ce qui peut entraîner une limitation du débit des demandes et avoir un impact sur les performances. L’activation du débordement peut aider à éviter ces problèmes de performances. Dans ServiceNow®, seul Azure OpenAI effectue actuellement ce changement.
    Remarque :
    La fonctionnalité de débordement devient active ou activée lorsqu’Azure OpenAI est sélectionné.

    Résumé de l'impact

    Le résumé de l’impact est déterminé par les fournisseurs de modèles autorisés choisis et l’état du secours, qui est actif ou inactif. Le secours affecte considérablement la façon dont les données récapitulatives de l’impact apparaissent dans la table récapitulative de l’impact.

    Figure 1. Fournisseurs de modèles IA

    Vous pouvez utiliser l’option d’édition pour sélectionner Oui ou Non afin d’activer le secours. Avant d’enregistrer, vous pouvez sélectionner Aperçu de l’impact pour examiner et confirmer toutes vos sélections.

    Figure 2. Aperçu de l’impact
    Image de l’aperçu de l’impact

    Examinons les données de la table Résumé de l’impact pour les deux scénarios suivants.

    Activer le secours : non
    • Nombre total de systèmes d’IA : affiche tous les systèmes d’IA pris en charge par les fournisseurs de modèles autorisés.
    • Systèmes IA pris en charge par les fournisseurs autorisés : affiche les systèmes IA avec des ensembles de compétences pris en charge par les fournisseurs.
    • Les systèmes IA nécessitent une désactivation : répertorie tous les systèmes IA actifs qui ne bénéficient pas du soutien du fournisseur et doivent être désactivés, car l’option de secours n’est pas activée.
    • Les systèmes IA ne peuvent pas être activés : affiche tous ces systèmes qui sont actuellement inactifs et ne sont pris en charge par aucun fournisseur.
    Figure 3. Activer le secours : non
    Activer le secours : oui
    • Nombre total de systèmes d’IA : affiche tous les systèmes d’IA pris en charge par les fournisseurs de modèles autorisés.
    • Systèmes IA pris en charge par les fournisseurs autorisés : affiche tous les systèmes IA avec des ensembles de compétences pris en charge par les fournisseurs.
    • Systèmes IA pris en charge par les fournisseurs de secours : affiche les systèmes d’IA non conformes comme fournisseurs de secours non autorisés.
    Figure 4. Activer le secours : oui
    Remarque :
    Les entrées de la table récapitulative de l’impact changent en fonction de l’état de secours.

    Lorsque vous sélectionnez une entrée dans la table, la page Matrice de support s’affiche avec ces entrées sélectionnées, ce qui vous permet de mettre à jour votre liste personnalisée.

    La matrice de support affiche tous les systèmes d’IA dont vous disposez et les fournisseurs de modèles pour les prendre en charge.

    Figure 5. Matrice de prise en charge