Now Assist Os agentes de IA operam com segurança dentro dos limites definidos por você. Os controles em camadas regem quem pode invocar cada agente, quais dados ele pode acessar, como as interações são monitoradas e como sua organização mantém a supervisão.
A implantação de agentes de IA introduz considerações de segurança que vão além do fortalecimento padrão da plataforma. Os agentes agem de forma autônoma, invocam ferramentas, acessam dados e tomam decisões em nome dos usuários. Isso requer controles em todas as camadas: Quem pode invocar um agente, o que ele pode acessar depois de executado, como suas ações são registradas e o que detecta comportamento prejudicial ou não intencional no tempo de execução.
Now Assisté criado no ServiceNow AI Platform modelo de segurança. Os agentes de IA estão sujeitos à mesma imposição de ACL, controles de acesso baseados em função e separação de domínio que regem todas as atividades da plataforma. Os controles nessas seções estendem essa base com capacidades específicas da IA agential. Isso inclui classificação de identidade para usuários de IA, mascaramento de função para impor o privilégio mínimo durante a execução da ferramenta e proteções de tempo de execução Guardião do Now Assist. As ferramentas de avaliação de prontidão ajudam a verificar se sua instância está preparada antes que os agentes entrem em produção.
Conceitos de segurança de IA
|
Controle de acesso baseado em permissões Use herança de função do agente, tipos de identidade e funções granulares para verificar se seus agentes de IA têm somente as permissões de que precisam e podem agir somente dentro dos limites pretendidos.
|
Proteção de dados Saiba como as ferramentas da ServiceNow, como Estrutura de gestão de chaves, Criptografia de campo e Classificação de dados, protegem seus dados, incluindo onde eles são armazenados e processados, e como eles permanecem isolados quando agentes terceirizados estão envolvidos.
|
Monitoramento e rastreabilidade do agente Use a Torre de controle de IA e os logs de atividades do agente para rastrear o que seus agentes fazem, quais dados eles acessam e quando, e forneça os registros auditáveis e explicáveis que suas equipes de segurança e conformidade exigem.
|
|
Proteções de administração e governança Encontre orientação sobre como gerenciar funções, políticas e configurações para reduzir riscos e atender aos requisitos de conformidade, incluindo HIPAA, GDPR e NIST.
|
Proteção contra ameaças de IA Saiba como Now Assist Ajuda a se defender contra ameaças específicas da IA, incluindo conteúdo ofensivo, injeção de prompt e detecção de assunto confidencial usando Guardião do Now Assist.
|
Segurança do agente de IA externo Saiba como monitorar e governar agentes de IA de provedores externos, com visibilidade de fluxos de dados de terceiros e garantias de que os dados confidenciais permanecem isolados adequadamente em todo o seu ecossistema de IA.
|
Produtos de segurança de IA