Conjuntos de dados

Um conjunto de dados é uma coleção curada de dados estruturados usados para desenvolver, implantar e monitorar sistemas de IA de acordo com as políticas organizacionais, regulamentações e padrões éticos.

O conjunto de dados de IA oferece suporte aos objetivos de governança capturando informações importantes sobre modelos de IA, incluindo avaliações de risco, status de conformidade, propriedade, trilhas de auditoria, e métricas de desempenho. Também permite supervisão, responsabilidade e tomada de decisões eficazes dentro da organização. A qualidade e a composição de um conjunto de dados afetam diretamente o desempenho, a justiça e a precisão do modelo de IA. Conjuntos de dados bem selecionados ajudam a verificar se os modelos aprendem padrões significativos e geram resultados confiáveis em cenários do mundo real.

Cada conjunto de dados deve ser avaliado quanto à integridade, precisão e relevância para o caso de uso pretendido. O viés nos conjuntos de dados pode levar a previsões de modelo injustas ou imprecisas e deve ser identificado e mitigado. Rastrear a linhagem de dados ajuda a verificar a rastreabilidade, a transparência e a responsabilidade na forma como os conjuntos de dados são usados e mantidos.

Os conjuntos de dados devem estar em conformidade com os regulamentos de proteção de dados, incluindo leis de privacidade e políticas de manipulação de dados organizacionais. Revisões e atualizações regulares ajudam a manter a qualidade do conjunto de dados e refletem os padrões de dados ou as necessidades de negócios em evolução.

A imagem a seguir mostra a página de visão geral dos conjuntos de dados.

Figura 1. Página de visão geral dos conjuntos de dados

Um registro de conjunto de dados de IA fornece uma pontuação de risco agregada. As pontuações de risco individuais para entidades que têm avaliação de risco para inventário de IA como acúmulo de metodologia de avaliação de risco (RAM) e formam uma pontuação de risco agregada. Você pode ver a pontuação de risco agregado na guia Detalhes do registro do sistema de IA no Pontuação de risco agregada seção. Para obter mais informações sobre como a pontuação de risco é acumulada, consulte Acúmulo de pontuação de risco na Avaliação de risco avançada.

Importante:

Para ver a pontuação de risco agregada, você deve habilitar Migrar para Avaliações de risco avançadas ( sn_risk_advanced.migrate_to_advanced_risk ) em Tudo > Risco avançado > Propriedades.

Nota:

Você só poderá ver esta seção se Risco avançado a aplicação está instalada.

A pontuação de risco agregada consolida riscos individuais, como viés, desvio e segurança, para informar perfis de risco de IA de nível departamental ou empresarial, permitindo visibilidade e supervisão de nível superior. Por exemplo, vários modelos de IA voltados para o cliente que exibem sinais de viés podem levar a riscos organizacionais. A pontuação de risco agregada habilita Risco e conformidade de IA Obter uma visão consolidada dos riscos de IA em vários modelos, equipes e unidades de negócios, indo além das avaliações de risco fragmentadas.

Ativos de IA relacionados

A seção Ativos de IA relacionados lista o seguinte para um conjunto de dados de IA:

• Sistemas de IA: Os sistemas de IA que usam este conjunto de dados de IA.
• Modelos de IA: Os modelos de IA que usam este conjunto de dados de IA.