Konfigurieren Sie Drittpartei-LLMS mit KI-Kontrollstelle

Verwenden Sie KI-Kontrollstelle Dient zum Konfigurieren großer Sprachmodelle von Drittparteien (Large Language Models, LLMS) basierend auf der Datenweiterleitungskonfiguration für die APJC-Region mithilfe des Abschnitts „KI-Modellanbieter“. .

Vorbereitungen

Erforderliche Rolle: KI-Steward [sn_ai_Governance.ai_Steward]

Prozedur

1. Navigieren zu Alle > KI-Kontrollstelle > Konfigurationen > Steuerungen > KI-Modellanbieteran.
2. Wählen Sie Bearbeiten.
   Sie können KI-Modellanforderungen über diese Arten von Datenweiterleitungskonfigurationen konfigurieren:

   1. Regional
   2. Global
3. Konfigurieren Sie LLMS über regionale Datenweiterleitung.
   1. Wählen Sie Aus Regional .
      Alle zulässigen Modellanbieter werden angezeigt:

      • Now LLM-Service
      • AWS Claude
      • Azure OpenAI
   2. Wählen Sie die Modellanbieter gemäß Ihren Organisationsrichtlinien aus.
      Wenn Azure OpenAI ausgewählt ist, werden Sie aufgefordert, Spillover zuzulassen, wodurch der Datenverkehr an die globale Datenweiterleitung weitergeleitet wird.
   3. Lassen Sie das Überlaufen zu, indem Sie auswählen Ja .
   4. Wählen Sie Speichern.
      Die Zustimmungsanforderung zur Bestätigung der Datenweiterleitung wird angezeigt, um Sie zu informieren, die Einwilligung zu erteilen.
   5. Wählen Sie Aus Stimmen Sie zu, und fahren Sie fort .
   6. Wählen Sie Speichern.
      Die Drittpartei-LLMS sind mit der Konfiguration „regionale Datenweiterleitung“ für die APJC-Region konfiguriert.
4. Konfigurieren Sie LLMS über die globale Datenweiterleitung.
   1. Wählen Sie Global aus.
      Alle zulässigen Modellanbieter werden angezeigt:

      • AWS Claude
      • Azure OpenAI
      • Google Gemini
      • Now LLM-Service

      Hinweis:

      Wenn Sie die globale Datenweiterleitung auswählen, wird Ihr Datenverarbeitungsstandort an ein globales Rechenzentrum umgeleitet.
   2. Wählen Sie alle Modellanbieter aus.
   3. Wählen Sie Speichern.

Ergebnisse

Die Drittpartei-LLMS werden mit der Konfiguration „Globale Datenweiterleitung“ für die APJC-Region konfiguriert.

Weitere Informationen zu Datenweiterleitung, Fallback und Spillover finden Sie unter KI-Modellanbieter

Weitere Informationen zu Szenarien für die Konfiguration von Drittanbieter-LLMS für regulierte Märkte und AMS- und EMEA-Regionen finden Sie unter Erkunden Sie die Konfiguration von Drittanbieter-LLMS und Datenweiterleitung