カスタムガーディアンを作成

独自のカスタムガーディアンを作成して、LLM に送信された要求を監視および検出します。

始める前に

希望するプロバイダーの接続および資格情報エイリアスを構成します。詳細については、「接続情報および認証情報エイリアスの作成」を参照してください。

必要なロール：admin

手順

1. 移動先 すべてをクリックし、フィルターに 「sys_generative_ai_custom_guardian_transformer_list.do 」と入力して、生成 AI カスタムガーディアントランスフォーマー [sys_generative_ai_custom_guardian_transformer_list.do] テーブルに移動します。
2. [新規] を選択します。
3. [ 名前 ] フィールドに、カスタム ガーディアンの名前を入力します。
4. 要求トランスフォーマースクリプトを作成します。
   1. [ 要求トランスフォーマー ] フィールドで、[ ECMAScript 2021 (ES12) モードをオンにする (Turn on ECMAScript 2021 (ES12) mode ] トグルを有効にしてスクリプトを作成します。
      次の例は、カスタムガーディアン要求構造の要求トランスフォーマースクリプトを示しています。

      ((function(inputs) {     
      	/*        
      	inputs structure: {     
      		prompt: object, The textual content that needs to be evaluated with guardian           
      		threshold_setting: object           
      		connection_attributes: object        
      	}     
      	write code here to construct the request body and any custom headers needed using the inputs object.     
      	*/     
      	// construct body using the inputs like input.prompt and so on.      
      	var body = {};      
      	//construct headers using the inputs      
      	var headers = {};      
      	return {     
      		body: body,     
      		headers: headers     
      	};     
      })(inputs);
      
      	 

5. [アクティブ] オプションを選択します。
6. 応答トランスフォーマースクリプトを作成します。
   1. [ 応答トランスフォーマー ] フィールドで、[ ECMAScript 2021 (ES12) モードを有効にする] トグルを有効にしてスクリプトを作成します。
      次の例は、カスタムガーディアン応答構造に対する応答トランスフォーマースクリプトを示しています。

      (function(inputs) {     
      	/*     
      	write code here to transform the custom guardian response into standard guardian response format expected by platform     
      	inputs structure: {           
      		response_body: object,     
      		threshold_setting: object     
      	}     
      	*/     
      	// write code here to populate the response object.     
      	var guardianResponse = {};     
      	//Set flagged to true, if the guardian has flagged the text. Categories are optional and are for logging purpose only     
      	// if transformer setting is Prompt Injection, expected response format: {security:{flagged:false,categories:[]}}     
      	// if transformer setting is Offensiveness, expected response format: {safety:{flagged:false,categories:[]}}     
      	// if transformer setting is ALL, expected response format: {safety:{flagged:false,categories:[]},security:{flagged:false,categories:[]}}      
      	return guardianResponse;     
      })(inputs);
      
      	 

7. [ ガーディアン設定 ] フィールドで、任意のガードレールを選択します。
   • 攻撃性とプロンプトインジェクションの両方の検出を一緒に処理するには、[ すべて ] を選択します。
   • 攻撃的または有害なコンテンツの検出を有効にするには、[ 攻撃性] を選択します。
   • プロンプト攻撃の検出を有効にするには、[ プロンプトインジェクション ] を選択します。
   注:

   LLM が 1 回の要求で攻撃性とプロンプトインジェクションの両方を評価できる場合は、[ すべて] を選択します。そうでない場合は、攻撃性とプロンプトインジェクションごとに個別のガードレールレコードを作成します。
8. [ 接続および資格情報エイリアス ] フィールドで、カスタムガーディアンと統合するエイリアスを選択します。
9. [送信] を選択します。
10. カスタムガーディアントークン制限を設定します。
    1. 移動先 すべて > システム定義 > テーブル.
    2. 生成 AI 制御設定データ [sys_gen_ai_control_setting_data] テーブルを選択します。
    3. [関連リンク] セクションで、[ リストを表示] を選択します。
    4. [生成 AI 制御データ] 列でカスタムガーディアントークン制限レコードを検索します。
    5. カスタムガーディアントークン制限レコードの [値 ] フィールドを、要求あたりの最大トークン数で更新します。
       トークン制限は、ガードレールが 1 回の評価で処理できるトークンの最大数を定義します。要求コンテンツがこの制限を超えると、コンテンツはより小さな部分に分割されます。各部品は、ガードレールルールに照らして個別に評価されます。

       たとえば、トークン制限が 1000 で、要求コンテンツが 2500 トークンの場合、システムはそれを 3 つの部分に分割し、それぞれを個別に評価します。