Erstellen Sie einen anwenderdefinierten Vormund

Erstellen Sie Ihren eigenen anwenderdefinierten Vormund, um Anforderungen zu überwachen und zu erkennen, die an LLM gesendet werden.

Vorbereitungen

Konfigurieren Sie einen Alias für Verbindungen und Anmeldeinformationen für Ihren bevorzugten Provider. Weitere Informationen finden Sie unter Erstellen Sie einen Alias für Verbindungen und Anmeldeinformationen.

Erforderliche Rolle: Administrator

Prozedur

1. Navigieren zu Alle, Und geben Sie dann ein sys_generative_ai_custom_guardian_transformer_list.do Im Filter, um zur Tabelle „Anwenderdefinierter Schutzumwandler für generative KI [sys_generative_ai_custom_guardian_transformer_list.do] zu wechseln.
2. Wählen Sie Neu.
3. In Name Geben Sie den Namen des anwenderdefinierten Vormunds ein.
4. Erstellen Sie ein Anforderungs-Transformatorskript.
   1. In Umwandler Anfordern Eingereicht, aktivieren Sie Aktivieren Sie den ECMAScript 2021-Modus (ES12) Umschalten, um Skript zu erstellen.
      Das folgende Beispiel zeigt das Anforderungs-Transformatorskript für die anwenderdefinierte Guardian-Anforderungsstruktur.

      ((function(inputs) {     
      	/*        
      	inputs structure: {     
      		prompt: object, The textual content that needs to be evaluated with guardian           
      		threshold_setting: object           
      		connection_attributes: object        
      	}     
      	write code here to construct the request body and any custom headers needed using the inputs object.     
      	*/     
      	// construct body using the inputs like input.prompt and so on.      
      	var body = {};      
      	//construct headers using the inputs      
      	var headers = {};      
      	return {     
      		body: body,     
      		headers: headers     
      	};     
      })(inputs);
      
      	 

5. Wählen Sie die Option Aktiv.
6. Erstellen Sie ein Antwortumwandler-Skript.
   1. In Antwortumwandler Eingereicht, aktivieren Sie Aktivieren Sie den ECMAScript 2021-Modus (ES12) Umschalten, um Skript zu erstellen.
      Das folgende Beispiel zeigt das Antwortumwandler-Skript für die anwenderdefinierte Guardian-Antwortstruktur.

      (function(inputs) {     
      	/*     
      	write code here to transform the custom guardian response into standard guardian response format expected by platform     
      	inputs structure: {           
      		response_body: object,     
      		threshold_setting: object     
      	}     
      	*/     
      	// write code here to populate the response object.     
      	var guardianResponse = {};     
      	//Set flagged to true, if the guardian has flagged the text. Categories are optional and are for logging purpose only     
      	// if transformer setting is Prompt Injection, expected response format: {security:{flagged:false,categories:[]}}     
      	// if transformer setting is Offensiveness, expected response format: {safety:{flagged:false,categories:[]}}     
      	// if transformer setting is ALL, expected response format: {safety:{flagged:false,categories:[]},security:{flagged:false,categories:[]}}      
      	return guardianResponse;     
      })(inputs);
      
      	 

7. In Vormund-Einstellung Wählen Sie eine Schutzmaßnahme Ihrer Wahl aus.
   • Wählen Sie Aus Alle Dient zur gemeinsamen Behandlung der Erkennung von Anstößigkeit und Prompt Injection.
   • Wählen Sie Aus Anstößigkeit Um die Erkennung anstößiger oder schädlicher Inhalte zu aktivieren.
   • Wählen Sie Aus Prompt Injection Um die Erkennung von Prompt-Angriffen zu aktivieren.
   Hinweis:

   Wenn Ihr LLM sowohl Anstößigkeit als auch Prompt Injection in einer einzelnen Anforderung bewerten kann, wählen Sie aus Alle . Wenn nicht, erstellen Sie separate Schutzmaßnahmen-Datensätze für jede Anstößigkeit und Prompt Injection.
8. In Alias Für Verbindungen Und Anmeldeinformationen Wählen Sie den Alias aus, den Sie in Ihren anwenderdefinierten Vormund integrieren möchten.
9. Wählen Sie Absenden.
10. Richten Sie das anwenderdefinierte Limit für Guardian-Token ein.
    1. Navigieren zu Alle > Systemdefinition > Tabellenan.
    2. Wählen Sie aus Einstellungsdaten für generative KI-Steuerung [sys_gen_ai_control_setting_data] Tabelle.
    3. Wählen Sie im Abschnitt zugehörige Links die Option aus Liste Anzeigen .
    4. Suchen Sie nach Anwenderdefiniertes Guardian-Token-Limit Datensatz in Steuerungsdaten der generativen KI Spalte.
    5. Aktualisieren Sie Wert Feld des Limits für anwenderdefinierte Guardian-Token mit der maximalen Anzahl von Token pro Anforderung.
       Die Tokengrenze definiert die maximale Anzahl von Token, die die Schutzmaßnahme in einer einzelnen Evaluierung verarbeiten kann. Wenn der Anforderungsinhalt diesen Grenzwert überschreitet, wird der Inhalt in kleinere Teile aufgeteilt. Jedes Teil wird separat anhand der Schutzregeln ausgewertet.

       Wenn das Token-Limit 1000 beträgt und der Anforderungsinhalt 2500 Token beträgt, teilt das System sie in drei Teile auf und wertet jeden einzeln aus.