Habilitar Guardião do Now Assist Para agentes de IA

Identifique e bloqueie mensagens ofensivas enviadas por agentes humanos automaticamente habilitando Guardião do Now Assist Em agentes com IA. Com esse recurso, você pode ajudar a reduzir o fluxo de trabalho do agente ou o teste de exposição a conteúdo prejudicial.

Antes de Iniciar

Função necessária: administrador

Por Que e Quando Desempenhar Esta Tarefa

. Guardião do Now Assist, que é um ServiceNow AI Platform capacidade no Now Assist painel, é um conjunto de proteções projetadas para interceptar e mitigar problemas ofensivos, confidenciais ou relacionados à segurança que podem surgir durante interações com o. Now Assist aplicação.

Por exemplo, digamos que Guardião do Now Assist detecta uma mensagem ofensiva no plano de execução de um fluxo de trabalho do agente. Ao tentar acionar o plano ou testá-lo, Guardião do Now Assist pode intervir para encerrar o plano ou teste porque detectou conteúdo prejudicial na primeira etapa do plano de execução.

Para obter mais informações sobre as diferentes proteções, consulte Now Assist Guardian .

Procedimento

1. Configure a ofensibilidade para agentes de IA.
   1. Em Estúdio de agentes de IA, navegue até Configurações guia.
      Você será direcionado para a página Ofensivenidade.

      

   2. Ative a configuração de Ofensivenidade para agentes de IA usando o botão de alternância.

      

   3. Configure o impacto da detecção selecionando o ícone de opções ( ) para habilitar o impacto de detecção para usar as seguintes opções:

      

      • Editar : Escolha o impacto de detecção entre o registro em log ou o bloqueio e o registro em log.
        Ative o impacto de detecção:

        1. Selecione Editar opção.
        2. Na página Impacto na detecção, selecione Log ou Bloquear e registrar em log botão baseado em seus requisitos.
           Nota:

           Você pode alternar o impacto de detecção de Log . Bloquear e registrar em log ou de Bloquear e registrar . Log a qualquer momento.
        3. Selecione Save (Salvar).
      • Exportação : Exporta os logs baseados em ofensivos como um .CSV arquivo. Os logs podem ser analisados quanto aos tipos de conteúdo que estão sendo identificados para que você possa tomar outras medidas preventivas, como mudar perguntas conversacionais.
2. Configure a injeção de prompt para agentes de IA.
   1. Em Estúdio de agentes de IA, navegue até Configurações > Injeção de prompt e selecione Configurar .
      Você será direcionado para Administração do Now Assist Página para configurar a injeção de prompt.

      

      Nota:

      Para obter mais informações sobre como configurar a injeção de prompt, consulte .

      Quando você configura a injeção de prompt para um fluxo de trabalho do agente usando as instruções necessárias, o sistema é projetado para detectar conteúdo prejudicial e bloquear a conversa.