Explorando Risco e conformidade de IA

Saiba como você pode usar o. Risco e conformidade de IA Aplicação para gerenciar seus recursos de inteligência artificial (IA) de forma ética, mitigar os riscos de IA e garantir a conformidade.

Visão geral Risco e conformidade de IA

A equipe de risco e conformidade da IA é responsável por identificar e avaliar os riscos associados à IA. Isso inclui avaliar considerações jurídicas, regulatórias e éticas para garantir que as capacidades de IA sejam implementadas de forma responsável. Sua função é estabelecer diretrizes e estruturas que permitam que a empresa adote soluções de IA, mantendo a conformidade com os padrões do setor e os princípios éticos. . Risco e conformidade de IA A aplicação permite que a equipe de risco e conformidade de uma organização gerencie seus recursos e ativos de IA.

Risco e conformidade de IA usuários

Os usuários listados na tabela a seguir representam funções genéricas. Cada uma dessas funções pode ser identificada por diferentes títulos e nomes em várias organizações. Para funções específicas em Risco e conformidade de IA aplicação, consulte Funções instaladas com Risco e conformidade de IA.

Tabela 1. Usuários

Usuário	Descrição
Proprietário do produto de IA, usuário de negócios, proprietário de ativos de TI, profissional de IA	Inicia solicitações para criar casos de uso de IA, modelos e conjuntos de dados por meio do espaço ou do Central do funcionário. Monitora o desempenho do sistema de IA, promove melhorias contínuas e avalia o impacto nos negócios. Mantém a conformidade com os padrões de governança, éticos e jurídicos durante todo o ciclo de vida do produto de IA. Envolve-se ativamente em práticas de IA responsáveis nos principais pontos de desenvolvimento e administração e acessa ativos de IA aprovados para descoberta e reutilização.
Administrador de IA	Garante que os sistemas de IA sigam princípios éticos, como justiça, transparência, responsabilidade e não discriminação, e revisa regularmente modelos e saídas para ajudar a evitar danos e preconceitos. Promove justiça na tomada de decisões de IA, identificando e abordando tendências em dados de treinamento, algoritmos e resultados, e realiza avaliações periódicas de impacto e risco. Supervisiona todo o ciclo de vida dos modelos de IA, da ideação à desativação, e atua como um elo entre as equipes para integrar a governança entre os departamentos, garantindo a conformidade com a privacidade de dados, a segurança e a proteção da propriedade intelectual. Identifica e mitiga possíveis riscos, como preocupações com privacidade e mau funcionamento tecnológico, por meio de testes, monitoramento e atualizações regulares, e se adapta rapidamente às mudanças nas políticas e regulamentações por meio de atualizações de fluxo de trabalho e gestão de problemas.
Diretor de risco	Estabelece estruturas para uso responsável da IA, garantindo a adesão às diretrizes éticas, regulamentações do setor e políticas de gestão de riscos. Processa a implementação da estratégia de IA.
Analista de conformidade e risco de IA	Exibe e gerencia inventários de conformidade e risco, por exemplo, documentos de autoridade, declarações de risco, políticas, e, bem como acessa o. Risco avançado painéis.
Administrador de conformidade e risco de IA	Define estruturas de avaliação de risco e impacto configurando metodologias de avaliação de risco, fatores de contribuição e modelos de impacto, por exemplo, avaliações de conformidade. Configura regras de automação para avaliações de impacto para identificar riscos e controles de IA aplicáveis. Define tipos de caso de IA, aplica regras de negócios para campos de formulário e atribuições e cria modelos de relatórios para atender às necessidades de negócios.

Fluxo de trabalho do Risco e conformidade de IA

A seção a seguir descreve as etapas envolvidas quando um ativo de IA é criado no Torre de controle de IA a aplicação e os riscos dos ativos são avaliados em Risco e conformidade de IA até que o ativo seja implantado e movido para o monitoramento.

Quando um novo sistema de IA é introduzido ou aprimorado, ele passa por uma avaliação de risco e uma avaliação de impacto da IA. Essas avaliações produzem pontuações que denotam os níveis de risco dos sistemas de IA. Depois que a aprovação é obtida das partes interessadas relevantes, a fase de desenvolvimento ou criação começa. Durante o desenvolvimento, os controles são certificados, os problemas são rastreados e gerenciados e as exceções de política são geradas conforme necessário de uma perspectiva de risco e conformidade. Após o desenvolvimento, o sistema de IA é revisado para garantir:

• Conclusão da avaliação de conformidade
• Revisão e resolução de problemas em aberto e exceções de política
• Reavaliação de riscos

Com base nessas avaliações, o sistema de IA é aprovado ou rejeitado para implantação.

O fluxo de trabalho para criação e implantação de ativos de IA é o seguinte:

1. Os usuários comerciais usam o. Central do funcionário ou Torre de controle de IA E envie um novo caso de uso de IA.
2. Um novo registro de inventário é criado automaticamente no espaço.
3. A equipe do Centro de excelência em IA (COE) revisa o caso de uso enviado.
4. Ativos relevantes são adicionados ao inventário para ajudar a determinar se o caso de uso deve prosseguir para a próxima fase.
5. Em Risco e conformidade de IA Uma avaliação de impacto da IA ou uma avaliação de conformidade da IA é iniciada.
6. O usuário de negócios atribuído conclui a avaliação no espaço .
7. Com base nos resultados da avaliação, os riscos potenciais e os controles necessários são identificados e mapeados.
8. Depois que a avaliação é aprovada, o caso de uso de IA é criado pelas equipes apropriadas.
9. A solução concluída passa por um processo de revisão formal.
10. O monitoramento contínuo é realizado para garantir a conformidade e o desempenho.
11. Após a revisão bem-sucedida, a solução é implantada na produção.

Benefícios do Risco e conformidade de IA

. Risco e conformidade de IA A aplicação aborda os seguintes desafios enfrentados por qualquer organização que usa IA:

• Falta de estratégia de IA: Nenhuma estratégia de IA comumente acordada ou alinhamento com os objetivos corporativos.
• Nenhuma gestão centralizada: Nenhuma plataforma única para todas as partes interessadas e para o diretor de IA colaborar e gerenciar o uso da IA.
• Nenhuma diretriz de IA responsável: Ausência de diretrizes para uso ético e responsável da IA.
• Nenhum processo de avaliação de risco: Nenhum processo para avaliar riscos para IA interna e de terceiros.
• Problemas de escalabilidade e monitoramento: Desafios no escalonamento da implantação de IA, acompanhamento do desempenho e monitoramento contínuo de riscos emergentes, como privacidade.

A tabela a seguir lista os benefícios de usar o. Risco e conformidade de IA aplicação.

Benefícios	Recurso	Função
Gerencie sistemas, modelos e conjuntos de dados de IA em todo o ciclo de vida com governança consistente para melhor visibilidade, controle e conformidade.	AI asset lifecycle	Administrador de IA
Execute avaliações de impacto para sistemas, modelos e conjuntos de dados de IA para identificar ativos de IA de alto risco.	Execute a avaliação de impacto em um caso de uso de IA	As funções necessárias são as seguintes: Torre de controle de IA Responsável pelo ativo com IA Risco e conformidade de IA Usuário de risco e conformidade com IA
Execute avaliações de risco no sistema de IA e riscos individuais associados a um ativo de IA com base em informações e testes adicionais.	Execute avaliações de risco em sistemas de IAIniciar a avaliação de risco sobre os riscos do ativo de IA	Analista de conformidade e risco de IA
Gerencie e supervisione casos e problemas relacionados à IA por meio de um processo estruturado de gestão de casos.	Crie um caso de IA no Risco e conformidade de IA espaço Crie um problema de IA no Risco e conformidade de IA espaço	As funções necessárias são as seguintes: Caso de IA: Analista de caso de IA e gerente de caso de IA Problema com IA: Gerente de risco e conformidade com IA e analista de risco e conformidade com IA
Crie um inventário de ativos de IA pronto para conformidade alinhado com os requisitos regulatórios usando o pacote de conteúdo da estrutura de IA.	AI assets Crie certificações de controle para ativos de IA	Analista de conformidade e risco de IA

O que explorar a seguir

Para saber mais sobre como configurar e usar o Risco e conformidade de IA, consulte:

• Configuração da Risco e conformidade de IA
• Como usar o Risco e conformidade de IA
• Referência do Risco e conformidade de IA