AI システムの例

AI コントロールタワーアプリケーションとAI のリスクおよびコンプライアンスアプリケーションは、特に銀行や金融などのリスクの高い分野で、AIシステムの責任ある使用を管理および統制する上で重要な役割を果たします。

AIリスクは銀行や金融にとどまりませんが、例としてローン承認のクレジットスコアリングのためのAIシステムを考えてみましょう。このシステムは、他のモデル、インターフェイス、監視ツール、意思決定ルールとやり取りします。AI コントロールタワー ソリューションと AI のリスクおよびコンプライアンス アプリケーションは、AI システムを作成、構築、および展開するときに、コンプライアンスと責任ある使用を保証するのに役立ちます。

たとえば、組織は AI を使用してローン承認のクレジットスコアを生成し、それらのスコアを使用して承認の意思決定を行うことができます。AI システムには、次の大規模言語モデル (LLM) からさまざまなデータを入力できます。

• Now LLM:財務情報、支払履歴などを提供します。
• オープン AI:破産申請、裁判所の判決などの詳細を提供します。
• Azure OpenAI:支出と貯蓄のパターンを提供します。

次の例の図は、AI システムがデータセット、モデル、およびより広範なエコシステムとどのように相互に関連しているかを示しています。

図 : 1. AI システムの例