Revisão de ativos de IA de desligamento
A desativação de sistemas, modelos e conjuntos de dados de IA ajuda a garantir que os requisitos de governança, risco e conformidade sejam atendidos durante a avaliação, preparação e descontinuação de ativos de IA, incluindo avaliação de impacto, gestão de riscos residuais, preservação de documentação, decisões de manipulação de dados, e rastreabilidade de auditoria.
Como o desligamento é tratado Risco e conformidade de IA e. Torre de controle de IA
A desativação de modelos e conjuntos de dados de IA envolve atividades de governança e ações técnicas do ciclo de vida. Normalmente, essas responsabilidades são compartilhadas entre Risco e conformidade de IA(Airc) e. Torre de controle de IA(AICT), com cada produto abordando diferentes aspectos do processo de desligamento.
Durante o desligamento, a revisão de governança pode incluir a avaliação de como a descontinuação de um ativo de IA afeta usuários, processos de negócios e sistemas dependentes, bem como determinar se o uso contínuo, a reutilização ou a descontinuação de modelos ou conjuntos de dados relacionados é apropriado.
As avaliações realizadas durante o desligamento se destinam a confirmar que as obrigações de governança associadas ao ativo de IA são totalmente abordadas antes da descontinuação, em vez de introduzir novas obrigações de monitoramento contínuo ou pós-aposentadoria.
O AIRC é usado para executar e documentar revisões de governança associadas ao desligamento, enquanto o AICT pode ser usado para gerenciar fluxos de trabalho técnicos do ciclo de vida para ativos de IA com base nos resultados de governança. O desligamento é iniciado quando um proprietário de ativo de IA [sn_ai_asset_mgmt.ai_asset_owner] ou administrador [sn_ai_governance_ai_steward] envia uma solicitação de desligamento no AICT, que orienta as atividades de revisão de governança no AIRC. Para obter mais informações, consulte Create offboarding requests for AI assets.
Quando um modelo ou conjunto de dados de IA é usado por um ou mais sistemas de IA governados, a revisão de desligamento pode incluir a avaliação de dependências descendentes para ajudar a garantir que os sistemas afetados sejam atualizados, corrigidos ou descontinuados conforme necessário antes que o ativo seja totalmente desligado.
As atividades de governança associadas ao desligamento se concentram na avaliação dos impactos nos negócios, jurídicos, éticos e de segurança, enquanto as ações técnicas do ciclo de vida se concentram na desativação do acesso, na remoção de dependências operacionais e na atualização dos registros de inventário de IA com base nos resultados de governança concluídos.
As atividades de governança também podem incluir avaliar se os riscos jurídicos, éticos, de segurança ou de conformidade permanecem após a aposentadoria e documentar como esses riscos residuais são mitigados, aceitos ou formalmente encerrados.
O que é concluído em Risco e conformidade de IA durante o desligamento
O AIRC oferece suporte à parte de governança da desativação de ativos de IA. Por meio do AIRC, as organizações revisam e documentam considerações de risco, impacto e conformidade relacionadas à descontinuação de modelos e conjuntos de dados de IA. Quando modelos ou conjuntos de dados de IA são associados a um sistema de IA governado, as atividades de desligamento podem ser revisadas e rastreadas no nível do sistema de IA para ajudar a garantir a cobertura de governança completa.
Para obter mais informações sobre o ciclo de vida da governança de IA e como a desativação se encaixa no ciclo de vida do ativo de IA mais amplo, consulte Ciclo de vida da governança de IA e. AI asset lifecycle.
No AIRC, os profissionais podem realizar atividades como revisar classificações de risco regulatório, concluir ou atualizar avaliações de impacto e realizar revisões de conformidade ou alinhamento de políticas como parte do ciclo de vida da IA.
Para obter mais informações, consulte Execute a avaliação de impacto em um caso de uso de IA e Iniciar avaliação de risco no ativo de IA.
O AIRC mantém registros de governança relacionados a ativos de IA, incluindo avaliações, controles, problemas e atestados. Esses registros permanecem disponíveis depois que um ativo de IA é descontinuado, dando suporte à prontidão da auditoria e à rastreabilidade histórica.
Os riscos e problemas identificados durante a revisão de desligamento podem ser rastreados e formalmente encerrados no AIRC, ajudando a garantir que as preocupações de governança sejam resolvidas antes que um ativo de IA seja descontinuado.
O desligamento é considerado concluído quando as revisões de governança necessárias são concluídas, os problemas relacionados são resolvidos ou formalmente aceitos e o status do ciclo de vida do ativo de IA é atualizado para descontinuado.
Para obter mais informações sobre como resolver problemas de governança antes da descontinuação do ativo, consulte Corrija um problema em Risco e conformidade de IA.
Comportamento de avaliação durante o desligamento
Durante o desligamento, as atividades de governança em Risco e conformidade de IA são orientados pela classificação de risco, status de avaliação e estado do ciclo de vida. As categorias de modelo ou sistema de IA selecionadas durante a admissão (por exemplo, Agentivo ou generativo) são capturadas somente como metadados descritivos e não mudam a criação de avaliação, pontuação ou o comportamento do ciclo de vida.
As avaliações de impacto ou risco podem ser criadas durante o desligamento quando a revisão de governança determina que uma avaliação adicional é necessária com base na classificação de risco do ativo e na cobertura de avaliação existente. Se já existir uma avaliação ativa do mesmo tipo, uma avaliação duplicada não será criada.
Quando o desligamento é concluído e o estado do ciclo de vida do ativo de IA é atualizado para descontinuado, todas as avaliações de governança em aberto restantes associadas ao ativo são encerradas ou canceladas de acordo com as regras de governança configuradas. Os registros históricos permanecem disponíveis para auditoria e rastreabilidade.
A revisão de desligamento também pode confirmar que a documentação, os resultados da avaliação e as decisões de manipulação de dados necessárias para fins regulatórios, de auditoria ou de investigação são preservados antes que o ativo de IA seja descontinuado.
Orientação de avaliação durante o desligamento de ativos de IA
Durante o desligamento, as organizações podem usar diferentes tipos de avaliações no Risco e conformidade de IA Para dar suporte às decisões de governança relacionadas à descontinuação de sistemas, modelos ou conjuntos de dados de IA. As avaliações específicas consideradas dependem da classificação de risco do ativo, do contexto de uso e da cobertura de governança existente.
As avaliações de impacto são comumente usadas quando as decisões de desligamento exigem a avaliação de como a desativação de um ativo de IA afeta usuários, processos de negócios, sistemas downstream ou fluxos de trabalho de tomada de decisões. Essas avaliações ajudam a determinar se a descontinuação introduz impactos operacionais, éticos ou de segurança que devem ser resolvidos antes que o ativo seja descontinuado.
As avaliações de risco podem ser usadas durante o desligamento para avaliar os riscos residuais associados a um ativo de IA, incluindo riscos jurídicos, éticos ou de conformidade que podem persistir após o término do uso operacional. As avaliações de risco também podem ser usadas para confirmar se os riscos identificados anteriormente são adequadamente mitigados, aceitos ou formalmente encerrados antes da descontinuação.
As revisões de conformidade ou alinhamento de política podem ser realizadas para ativos de IA sujeitos a requisitos regulatórios ou internos de governança para confirmar que as obrigações aplicáveis foram atendidas antes da finalização do desligamento.
A criação e o sequenciamento de tarefas de avaliação relacionadas ao desligamento são gerenciadas por meio de Torre de controle de IA, enquanto Risco e conformidade de IA fornece o contexto de governança, os registros de avaliação e a rastreabilidade de auditoria necessários para dar suporte às decisões de desligamento.
Para obter mais informações sobre como executar tipos de avaliação específicos, consulte Execute a avaliação de impacto em um caso de uso de IA, Execute avaliações de risco em sistemas de IA, Iniciar avaliação de risco no ativo de IA e. Iniciar a avaliação de risco sobre os riscos do ativo de IA.