Ative o guardião para agentes externos

Use uma propriedade do sistema para proteger seus modelos de aprendizado de idiomas (LLMs) com o Guardian.

Use o. sn_aia.external_agent_guardian_checkPropriedade do sistema para habilitar o Guardião, que monitora solicitações enviadas para Modelos de aprendizado de idiomas (LLMs) e suas respostas para ajudar a proteger você, seus usuários e seus dados. Há três tipos de conteúdo que são monitorados:

• conteúdo ofensivo ou prejudicial
• tentativas de injeção de prompt
• assuntos filtrados

Certifique-se de que sn_aia.external_agent_guardian_checkA propriedade do sistema não existe na tabela Propriedades do sistema [sys_properties] ou existe e está definida com um valor de verdadeiro .

Mais informações

Atributo	Descrição
Nome da configuração	sn_aia.external_agent_guardian_check
Tipo de configuração	Propriedades do sistema (/sys_properties_list.do)
Tipo de dados	Booliano
Valor recomendado	verdadeiro
Valor-padrão	verdadeiro
Valor de fallback	verdadeiro
Categoria	Controle de acesso
Risco à segurança	Pontuação de gravidade:4,1 Pontuação do CVSS: média Detalhes do risco de segurança: A injeção de prompt é um tipo de ataque em que agentes mal-intencionados substituem as instruções normais de um LLM para acessar informações restritas ou provocar comportamentos inesperados. A detecção de injeção de prompt é baseada no LLM que foi treinado em vários tipos de técnicas de injeção de prompt, como role playing, parafraseando, repetição, instruções para ignorar outras instruções, persuasão, etc.
Impacto funcional	O guardião pode produzir falsos positivos e bloquear solicitações legítimas.
Dependências e pré-requisitos	Nenhum