. Torre de controle de IA e Risco e conformidade de IA A aplicação desempenha um papel crítico na gestão e governança do uso responsável de sistemas de IA, especialmente em domínios de alto risco, como bancos e finanças.
Embora os riscos de IA se estendam além dos bancos e finanças, considere um sistema de IA para pontuação de crédito na aprovação de empréstimos como exemplo. Este sistema interage com outros modelos, interfaces, ferramentas de monitoramento e regras de decisão. . Torre de controle de IA solução junto com Risco e conformidade de IA A aplicação pode ajudar a garantir a conformidade e o uso responsável quando o sistema de IA é criado, criado e implantado.
Por exemplo, uma organização pode usar IA para gerar pontuações de crédito para aprovações de empréstimo e usar essas pontuações para tomar decisões de aprovação. O sistema de IA pode ser alimentado com uma variedade de dados dos seguintes modelos de linguagem grande (LLMs):
Serviço Now LLM: Fornece informações financeiras, histórico de pagamentos e assim por diante.
IA aberta: Fornece detalhes como registros de falência, julgamentos judiciais e assim por diante.
Azure OpenAI: Fornece padrões de gastos e economia.
A figura no exemplo a seguir ilustra como um sistema de IA está inter-relacionado com conjuntos de dados, modelos e o ecossistema mais amplo.Figura 1. Exemplo de um sistema de IA
