Sistemas de IA
Um sistema de IA é uma solução com tecnologia de IA desenvolvida, implantada e gerenciada sob uma estrutura de governança formal. Essa estrutura garante que o sistema opere de maneira responsável, em conformidade e ciente dos riscos durante todo o seu ciclo de vida.
Um sistema de IA funciona no ambiente digital ou operacional de uma organização para oferecer suporte a atividades de negócios. Ele permite a automação, aprimora a tomada de decisões orientada por dados e melhora a eficiência geral do processo. O sistema inclui componentes como modelos de aprendizado de máquina, mecanismos de processamento de linguagem natural ou ferramentas de visão computacional.
Esses componentes geralmente são compatíveis com conjuntos de dados, algoritmos e infraestrutura de computação. Juntos, eles permitem que o sistema analise dados, reconheça padrões e gere resultados com o mínimo de intervenção humana. Cada sistema de IA está sujeito a um processo de avaliação estruturado. Este processo avalia possíveis riscos relacionados à funcionalidade, segurança e impacto social. Ele também verifica a conformidade com os regulamentos aplicáveis, padrões do setor e políticas de governança interna.
As estruturas de governança são aplicadas para gerenciar o sistema de IA durante todo o ciclo de vida. Eles garantem que o sistema funcione com segurança e forneça resultados previsíveis, explicáveis e confiáveis. Princípios éticos, como justiça, responsabilidade e transparência, são impostos por meio de controles definidos e mecanismos de supervisão. O monitoramento regular oferece suporte ao uso responsável da IA e reduz o risco de consequências não intencionais.
sn_risk_advanced.migrate_to_advanced_risk ) em .A pontuação de risco agregada consolida riscos individuais, como viés, desvio e segurança, para informar perfis de risco de IA de nível departamental ou empresarial, permitindo visibilidade e supervisão de nível superior. Por exemplo, vários modelos de IA voltados para o cliente que exibem sinais de viés podem levar a riscos organizacionais. A pontuação de risco agregada habilita Risco e conformidade de IA Obter uma visão consolidada dos riscos de IA em vários modelos, equipes e unidades de negócios, indo além das avaliações de risco fragmentadas.
Ativos de IA relacionados
A seção Ativos de IA relacionados lista o seguinte para um sistema de IA:
- Modelos de IA: Os modelos de IA neste sistema de IA.
- Conjuntos de dados: Os conjuntos de dados usados neste sistema de IA.