Konfigurieren Sie API-Anmeldeinformationen für einen Generic Large Language Model (LLM)-Connector
Verwenden Sie einen generischen LLM-Connector, um eine Verbindung mit herzustellen ServiceNow AI Platform Mit einem externen KI-Anbieter, um generative KI-Fähigkeiten in anwenderdefinierten zu verwenden Virtual Agent Themen, Flows oder Skripts, z. B. Hintergrund- und Business-Regel-Skripts.
Vorbereitungen
Sie müssen Zugriff auf die API eines externen LLM haben, um die Anmeldeinformationen zu konfigurieren.
Erforderliche Rolle: Administrator
Warum und wann dieser Vorgang ausgeführt wird
Sie können ein externes LLM mit dem verbinden ServiceNow AI Platform Indem Sie einen Verbindungsalias zum Modell erstellen, erstellen Sie einen Modelldatensatz, der auf den Alias verweist, erstellen Sie einen Eingabeaufforderungsdatensatz für das Modell, und erstellen Sie dann einen Transformatordatensatz, um die Anforderung oder Antwort aus dem LLM zu transformieren.
Prozedur
-
In API-Schlüssel Geben Sie den API-Schlüssel Ihres Modells ein.
-
In Name Feld einen Namen für den Anmeldeinformationsalias eingeben.
Sie müssen keine anderen Feldwerte ändern.
-
In Anmeldeinformationen Feld den Anmeldeinformationsdatensatz auswählen, den Sie mit dem API-Schlüssel des Modells erstellt haben.
Sie können die Liste der Anmeldeinformationen durchsuchen, indem Sie den Namen der Anmeldeinformationen in das Feld eingeben. Sie können auch das Suchsymbol (
), um ein Modal mit der vollständigen Liste zu öffnen. -
Geben Sie für die Verbindungs-URL die Endpunkt-URL für das Modell ein.
Beispielsweise kann ein Modell aus umschlossenem Gesicht mit „https://api-inference.huggingface.co" beginnen. Sie können die verbleibenden Felder unverändert lassen.