KI-Modelle verwalten

Greifen Sie auf den LLM-Anbieter (großes Sprachmodell) zu, der für verschiedene verwendet wird, und wählen Sie ihn aus Now Assist Kompetenzen. Die Auswahl wirkt sich auf alle Kompetenzen innerhalb der Fähigkeit aus.

Vorbereitungen

Erforderliche Rolle: administrator, sn_nowassist_admin.nsa_admin

Diese Funktion ist in verfügbar Now Assist-Administrator Version 6,2 und Yokohama Patch 6 ab.

Um die Auswahl des Modellanbieters zu aktivieren, stellen Sie sicher, dass die Kompetenz in dieser Region verfügbar ist. Die Konfigurationssteuerungen für die genehmigten Modellanbieter und die entsprechenden konformen Kompetenzen für bestimmte Regionen werden in genehmigt KI-Kontrollstelle Vom KI-Steward. Beispiel: Um den Modellanbieter für zu aktualisieren Now Assist Genius-Ergebnisse für F&A: Stellen Sie sicher, dass alle Kompetenzen unter Konversationskompetenzen in der Region verfügbar und aktiv sind.

Gemäß KI-Kontrollstelle Einstellungen ist die Auswahl des Modellanbieters auf mehreren Ebenen verfügbar, einschließlich Kompetenz, Kompetenzgruppe und Instanzebene in Now Assist-Administrator. Daher in einer Situation, in der eine Kompetenz nicht konform ist oder ein Modellanbieter in einer bestimmten Region nicht verfügbar ist, Now Assist-Administrator Die Konsole stellt die Administratorpersona mit alternativen Regionsbereichsoptionen vor, die Genehmigungsberechtigungen zum Fortfahren mit der Auswahl des Modellanbieters benötigen. Beispiel: Sie können zu einem anderen Modellanbieter wechseln, um einen bestimmten zu verwenden Now Assist Kompetenz. Beachten Sie, dass der Regionsbereich in den globalen Standort geändert werden muss, damit die Kompetenz funktioniert. Hier können Sie erst fortfahren, nachdem Sie der Änderung des Regionsbereichs zugestimmt haben.

Hinweis:

Für regulierte Märkte:

• Die Verwalten Sie LLM Die Option ist für Kunden in nicht verfügbar Now Assist-Administrator Anwenderoberfläche.
• Nur Now LLM Service Kompetenzen stehen Kunden zur Verfügung. Alle Kompetenzen, die externe Anbieter nutzen (z. B. Azure), werden in ausgeblendet Now Assist-Administrator Konsole. Mit Ausnahme der NSC-Region: Nutzung von Kompetenzen Azure OpenAI Ist für Anwender verfügbar.

Prozedur

1. Navigieren zu Alle > Now Assist-Administrator > Einstellungenan.
2. Navigieren zu Einstellungen > Modellanbieter verwaltenan.
   
   
   
3. Überprüfen Sie diese im Verwalten Sie Modellanbieter Seite:
   • Richtlinienzusammenfassung, die von Ihrer Organisation über Kompetenzen festgelegt wurde, die nicht konforme Modellanbieter verwenden.
     Hinweis:

     Notieren Sie sich die Details der Weiterleitung und Fallback-Ausnahme. Diese Details werden auch von abgeleitet KI-Kontrollstelle Konfigurationen.
   • Modellanbieter, die dem zugewiesen sind Now Assist Kompetenzen und Kompetenzgruppen.
   • Richtlinien- und Kompetenzaktualisierungen durch den KI-Steward in KI-Kontrollstelle Unter Change-Verlauf Registerkarte.

• Verwalten Modellanbieter
  Bearbeiten oder passen Sie den Modellanbieter für eine Kompetenz oder Kompetenzgruppe auf Instanzebene aus der Liste der unterstützten Drittpartei-Modellanbieter an, einschließlich des Standardmodells Now LLM Service. Sie können auch die von Ihrer Organisation festgelegte Modellrichtlinie überprüfen und hier den Change-Verlauf anzeigen.
• Integration verwalten
  Wählen Sie den bevorzugten Integrationstyp für die Konfiguration der verfügbaren Modellanbieter aus. Es gibt zwei Möglichkeiten, einen Modellanbieter in zu konfigurieren Now Assist-Administrator. Sie können entweder Originalgerätehersteller (OEM) oder eigenen Schlüssel mitbringen (BYOK) auswählen.
• Version verwalten
  Verwalten Sie die Version der Modellanbieter auf Kompetenzen und Instanzebenen. Sie können Versionen für die sofort einsatzbereiten und anwenderdefinierten Kompetenzen ändern und aktualisieren.