Crie um guardião personalizado

Crie seu próprio responsável personalizado para monitorar e detectar solicitações enviadas ao LLM.

Antes de Iniciar

Configure um alias de conexão e credencial para seu provedor preferencial. Para obter mais informações, consulte Crie um alias de Conexão e Credenciais.

Função necessária: administrador

Procedimento

1. Navegar até Tudoe, em seguida, insira sys_generative_ai_custom_guardian_transformer_list.do No filtro para ir para a tabela Transformador do guardião personalizado da IA generativa [sys_generative_ai_custom_guardian_transformer_list.do].
2. Selecione Novo.
3. Em Nome , insira o nome do guardião personalizado.
4. Crie um script de transformador de solicitação.
   1. Em Transformador de solicitação arquivo, habilite o. Ative o modo ECMAScript 2021 (ES12) alterne para criar script.
      O exemplo a seguir mostra o script transformador de solicitação para a estrutura de solicitação de guardião personalizada.

      ((function(inputs) {     
      	/*        
      	inputs structure: {     
      		prompt: object, The textual content that needs to be evaluated with guardian           
      		threshold_setting: object           
      		connection_attributes: object        
      	}     
      	write code here to construct the request body and any custom headers needed using the inputs object.     
      	*/     
      	// construct body using the inputs like input.prompt and so on.      
      	var body = {};      
      	//construct headers using the inputs      
      	var headers = {};      
      	return {     
      		body: body,     
      		headers: headers     
      	};     
      })(inputs);
      
      	 

5. Selecione a opção Ativo.
6. Crie um script de transformador de resposta.
   1. Em Transformador de resposta arquivo, habilite o. Ative o modo ECMAScript 2021 (ES12) alterne para criar script.
      O exemplo a seguir mostra o script transformador de resposta da estrutura de resposta do guardião personalizado.

      (function(inputs) {     
      	/*     
      	write code here to transform the custom guardian response into standard guardian response format expected by platform     
      	inputs structure: {           
      		response_body: object,     
      		threshold_setting: object     
      	}     
      	*/     
      	// write code here to populate the response object.     
      	var guardianResponse = {};     
      	//Set flagged to true, if the guardian has flagged the text. Categories are optional and are for logging purpose only     
      	// if transformer setting is Prompt Injection, expected response format: {security:{flagged:false,categories:[]}}     
      	// if transformer setting is Offensiveness, expected response format: {safety:{flagged:false,categories:[]}}     
      	// if transformer setting is ALL, expected response format: {safety:{flagged:false,categories:[]},security:{flagged:false,categories:[]}}      
      	return guardianResponse;     
      })(inputs);
      
      	 

7. Em Configuração do guardião , selecione uma proteção de sua escolha.
   • Selecione Todos para lidar com a detecção de ofensividade e injeção imediata em conjunto.
   • Selecione Ofensividade para habilitar a detecção de conteúdo ofensivo ou prejudicial.
   • Selecione Injeção de prompt para habilitar a detecção de ataques de prompt.
   Nota:

   Se o seu LLM puder avaliar a ofensividade e a injeção de prompt em uma única solicitação, selecione Todos . Caso contrário, crie registros de proteção separados para cada ofensividade e injeção de prompt.
8. Em Alias de conexão e credencial , selecione o alias que você deseja integrar ao seu guardião personalizado.
9. Selecione Enviar.
10. Configure o limite de token de guardião personalizado.
    1. Navegar até Tudo > Definição do Sistema > Tabelas.
    2. Selecione Dados de configuração de controle da IA generativa [sys_gen_ai_control_setting_data] tabela.
    3. Na seção Links relacionados, selecione Mostrar lista .
    4. PESQUISE Limite de token guardião personalizado registre no Dados de controle da IA generativa coluna.
    5. Atualize o. Valor Campo do registro Limite de token guardião personalizado com o número máximo de tokens por solicitação.
       O limite de token define o número máximo de tokens que o Guardrail pode processar em uma única avaliação. Se o conteúdo da solicitação exceder esse limite, o conteúdo será dividido em partes menores. Cada peça é avaliada separadamente em relação às regras de proteção.

       Por exemplo, se o limite de token for 1000 e o conteúdo da solicitação for 2500 tokens, o sistema o dividirá em três partes e avaliará cada uma individualmente.