Modelos de IA

Um modelo de IA é projetado, implantado e monitorado de acordo com estruturas de governança estruturadas. Essas estruturas garantem o uso ético do modelo de IA, a conformidade regulatória e a mitigação de riscos durante todo o ciclo de vida.

Um modelo de IA é desenvolvido por treinamento em grandes conjuntos de dados usando aprendizado de máquina ou outras técnicas de IA. O modelo aprende relacionamentos de dados para generalizar resultados para entradas novas e não vistas. Os modelos de IA são usados em aplicações como processamento de linguagem, reconhecimento de imagem e sistemas de recomendação.

Cada modelo executa uma tarefa definida, como classificação, regressão ou geração de conteúdo. Eles devem ser avaliados quanto à precisão, confiabilidade e robustez em cenários do mundo real. Os modelos também são avaliados quanto a riscos como viés, opacidade e comportamento não intencional.

A validação regular e o monitoramento de desempenho garantem a eficácia e a estabilidade contínuas do modelo. A documentação clara ajuda a manter a transparência e oferece suporte à tomada de decisões informada. A conformidade com diretrizes éticas e padrões legais é fundamental durante todo o ciclo de vida do modelo.

A imagem a seguir mostra a página de visão geral de um modelo de IA.

Figura 1. Página de visão geral do modelo de IA

Um registro de modelo de IA fornece uma pontuação de risco agregada. As pontuações de risco individuais para entidades que têm avaliação de risco para inventário de IA como acúmulo de metodologia de avaliação de risco (RAM) e formam uma pontuação de risco agregada. Você pode ver a pontuação de risco agregado na guia Detalhes do registro do sistema de IA no Pontuação de risco agregada seção. Para obter mais informações sobre como a pontuação de risco é acumulada, consulte Acúmulo de pontuação de risco na Avaliação de risco avançada.

Importante:

Para ver a pontuação de risco agregada, você deve habilitar Migrar para Avaliações de risco avançadas ( sn_risk_advanced.migrate_to_advanced_risk ) em Tudo > Risco avançado > Propriedades.

Nota:

Você só poderá ver esta seção se Risco avançado a aplicação está instalada.

A pontuação de risco agregada consolida riscos individuais, como viés, desvio e segurança, para informar perfis de risco de IA de nível departamental ou empresarial, permitindo visibilidade e supervisão de nível superior. Por exemplo, vários modelos de IA voltados para o cliente que exibem sinais de viés podem levar a riscos organizacionais. A pontuação de risco agregada habilita Risco e conformidade de IA Obter uma visão consolidada dos riscos de IA em vários modelos, equipes e unidades de negócios, indo além das avaliações de risco fragmentadas.

Ativos de IA relacionados

A seção Ativos de IA relacionados lista o seguinte para um modelo de IA:

• Sistemas de IA: Os sistemas de IA que usam este modelo de IA.
• Conjuntos de dados de treinamento: Os conjuntos de dados de treinamento usados neste modelo de IA.
• Conjuntos de dados de avaliação: Os conjuntos de dados de avaliação usados neste modelo de IA.