Créer un tuteur personnalisé

Créez votre propre gardien personnalisé pour surveiller et détecter les demandes envoyées à LLM.

Avant de commencer

Configurez un alias de connexion et d’informations d’identification pour votre fournisseur préféré. Pour plus d'informations, consultez Créer un alias de connexion et d’informations d’identification.

Rôle requis : admin

Procédure

1. Accédez à la Tous, puis saisissez sys_generative_ai_custom_guardian_transformer_list.do dans le filtre pour accéder à la table Transformateur du gardien personnalisé de l’IA générative [sys_generative_ai_custom_guardian_transformer_list.do].
2. Sélectionnez Nouveau.
3. Dans le champ Nom , saisissez le nom du tuteur personnalisé.
4. Créez un script de transformateur de demande.
   1. Dans le champ Transformateur de demande déposé, activez le bouton bascule Activer le mode ECMAScript 2021 (ES12) pour créer un script.
      L’exemple suivant montre le script de transformateur de demande pour la structure de demande de tuteur personnalisé.

      ((function(inputs) {     
      	/*        
      	inputs structure: {     
      		prompt: object, The textual content that needs to be evaluated with guardian           
      		threshold_setting: object           
      		connection_attributes: object        
      	}     
      	write code here to construct the request body and any custom headers needed using the inputs object.     
      	*/     
      	// construct body using the inputs like input.prompt and so on.      
      	var body = {};      
      	//construct headers using the inputs      
      	var headers = {};      
      	return {     
      		body: body,     
      		headers: headers     
      	};     
      })(inputs);
      
      	 

5. Sélectionnez l'option Actif.
6. Créez un script de transformateur de réponse.
   1. Dans le champ Transformateur de réponse du fichier, activez le bouton à bascule Activer le mode ECMAScript 2021 (ES12) pour créer un script.
      L’exemple suivant montre le script de transformateur de réponse pour la structure de réponse du Guardian personnalisée.

      (function(inputs) {     
      	/*     
      	write code here to transform the custom guardian response into standard guardian response format expected by platform     
      	inputs structure: {           
      		response_body: object,     
      		threshold_setting: object     
      	}     
      	*/     
      	// write code here to populate the response object.     
      	var guardianResponse = {};     
      	//Set flagged to true, if the guardian has flagged the text. Categories are optional and are for logging purpose only     
      	// if transformer setting is Prompt Injection, expected response format: {security:{flagged:false,categories:[]}}     
      	// if transformer setting is Offensiveness, expected response format: {safety:{flagged:false,categories:[]}}     
      	// if transformer setting is ALL, expected response format: {safety:{flagged:false,categories:[]},security:{flagged:false,categories:[]}}      
      	return guardianResponse;     
      })(inputs);
      
      	 

7. Dans le champ Paramètre du gardien , sélectionnez un garde-fou de votre choix.
   • Sélectionnez Tout pour gérer la détection à la fois du caractère offensant et de l’injection d’invite.
   • Sélectionnez Caractère offensant pour activer la détection de contenu offensant ou préjudiciable.
   • Sélectionnez Injection d’invite pour activer la détection des attaques d’invite.
   Remarque :

   Si votre LLM peut évaluer à la fois le caractère offensant et l’injection d’invite en une seule demande, sélectionnez Tout. Si ce n’est pas le cas, créez des enregistrements de garde-fous distincts pour chaque caractère offensant et chaque injection d’invite.
8. Dans le champ Alias de connexion et d’informations d’identification , sélectionnez l’alias que vous souhaitez intégrer à votre tuteur personnalisé.
9. Sélectionnez Envoyer.
10. Définissez la limite de jetons de gardien personnalisée.
    1. Accédez à la Tous > Définition du système > Tables.
    2. Sélectionnez la table Données des paramètres de contrôle de l’IA générative [sys_gen_ai_control_setting_data].
    3. Dans la section Liens connexes, sélectionnez Afficher la liste.
    4. Recherchez l’enregistrement de limite de jeton de Gardien personnalisé dans la colonne Données de contrôle de l’IA générative .
    5. Mettez à jour le champ Valeur de l’enregistrement de limite de jetons Gardien personnalisé avec le nombre maximal de jetons par demande.
       La limite de jetons définit le nombre maximal de jetons que le garde-fou peut traiter en une seule évaluation. Si le contenu de la demande dépasse cette limite, le contenu est divisé en parties plus petites. Chaque pièce est évaluée séparément par rapport aux règles du garde-fou.

       Par exemple, si la limite de jetons est de 1 000 et que le contenu de la demande est de 2 500 jetons, le système la divise en trois parties et évalue chacune individuellement.