Proteção contra ameaças de IA

Saiba como Now Assist Ajuda a se defender contra ameaças específicas da IA, incluindo conteúdo ofensivo, injeção de prompt e detecção de assunto confidencial usando Guardião do Now Assist.

Guardião do Now Assist monitora solicitações enviadas para modelos de idioma grandes e suas respostas para proteger você, seus usuários e seus dados. Ele detecta conteúdo ofensivo ou prejudicial, tentativas de injeção de prompt e assuntos confidenciais e pode registrar ou bloquear o conteúdo detectado, dependendo da sua configuração.

Configure proteções

Os tópicos a seguir descrevem como configurar Guardião do Now Assist e configure as proteções disponíveis para Now Assist E agentes de IA.

Saiba como Guardião do Now Assist Monitora o conteúdo da IA generativa no tempo de execução, quais categorias de conteúdo ele detecta e como o registro em log e o bloqueio funcionam.

Gerencie o provedor de serviços de proteção usado por Guardião do Now Assist.

Ative a proteção contra ofensividade para registrar e, opcionalmente, bloquear conteúdo ofensivo em textos e conversas gerados por IA.

Ative ou desative a proteção contra ataque de injeção de prompt para texto e conversas geradas por IA.

Configure filtros para redirecionar usuários para um tópico diferente quando determinado material do assunto for detectado em uma conversa do Virtual Agent.

Enable Now Assist Guardian for AI agents

Habilitar Guardião do Now Assist Em agentes de IA para identificar e bloquear automaticamente mensagens ofensivas, ajudando a proteger seus fluxos de trabalho agentivos contra conteúdo prejudicial.

Monitore a atividade da proteção

Os tópicos a seguir descrevem como revisar e exportar Guardião do Now Assist logs para avaliar a eficácia da proteção e oferecer suporte à revisão de segurança.

Now Assist Guardian analytics

Monitore o desempenho das proteções habilitadas por Guardião do Now Assist, incluindo o acompanhamento da frequência com que o conteúdo ofensivo e as tentativas de injeção de prompt são detectadas.

Exportar logs de Guardião do Now Assist para obter informações sobre a frequência com que proteções diferentes estão sendo detectadas e usadas.