Configurer des LLM tiers à l’aide de Tour de contrôle IA

Utiliser pour Tour de contrôle IA configurer des grands modèles de langage (LLM) tiers en fonction de la configuration de routage des données pour la région APJC à l’aide de la section Fournisseurs de modèles IA.

Avant de commencer

Rôle requis : Administrateur de l’IA [sn_ai_governance.ai_steward]

Procédure

1. Accédez à la Tous > Tour de contrôle IA > Configurations > Contrôles > Fournisseurs de modèles IA.
2. Sélectionnez Modifier.
   Vous pouvez configurer les demandes de modèles IA via ces types de configuration d’acheminement des données :

   1. Régional
   2. Global
3. Configurez les LLM via l’acheminement des données régionales.
   1. Sélectionnez Régional.
      Tous les fournisseurs de modèles autorisés sont affichés :

      • Now LLM Service
      • AWS Claude
      • Azure OpenAI
   2. Sélectionnez les fournisseurs de modèles en fonction des politiques de votre organisation.
      Lorsque Azure OpenAI est sélectionné, vous êtes invité à autoriser le débordement, ce qui redirige le trafic vers l’acheminement global des données.
   3. Autorisez le débordement en sélectionnant Oui.
   4. Sélectionnez Enregistrer.
      La demande de consentement de confirmation de l’acheminement des données s’affiche pour vous informer de fournir le consentement.
   5. Sélectionnez Accepter et continuer.
   6. Sélectionnez Enregistrer.
      Les LLM tiers sont configurés avec la configuration d’acheminement des données régionales pour la région APJC.
4. Configurez les LLM via l’acheminement global des données.
   1. Sélectionnez Global.
      Tous les fournisseurs de modèles autorisés sont affichés :

      • AWS Claude
      • Azure OpenAI
      • Google Gemini
      • Now LLM Service

      Remarque :

      La sélection de l’acheminement global des données redirige votre emplacement de traitement des données vers un centre de données global.
   2. Sélectionnez tous les fournisseurs de modèles.
   3. Sélectionnez Enregistrer.

Résultats

Les LLM tiers sont configurés avec la configuration d’acheminement des données globales pour la région APJC.

Pour plus d’informations sur l’acheminement des données, le secours et le débordement, consultez Fournisseurs de modèles IA

Pour plus d’informations sur les scénarios de configuration des LLM tiers pour les marchés réglementés et les régions AMS et EMEA, voir Exploration des LLM tiers et de la configuration de l’acheminement des données