を使用したサードパーティ LLM の構成 AI コントロールタワー

AI コントロールタワー を使用し、AI モデルプロバイダーセクションを使用して、APJC 地域のデータルーティング構成に基づいてサードパーティの大規模言語モデル (LLM) を構成します。。

始める前に

必要なロール:AI スチュワード [sn_ai_governance.ai_steward]

手順

1. 移動先 すべて > AI コントロールタワー > 構成 > コントロール > AI モデルプロバイダー.
2. [Edit (編集)] を選択します。
   次のタイプのデータルーティング構成を使用して、AI モデル要求を構成できます。

   1. 地域
   2. グローバル
3. 地域のデータルーティングを使用して LLM を構成します。
   1. [地域] を選択します。
      許可されているすべてのモデルプロバイダーが表示されます。

      • Now LLM サービス
      • AWS クロード
      • Azure OpenAI
   2. 組織のポリシーに従ってモデルプロバイダーを選択します。
      Azure OpenAI が選択されている場合は、トラフィックをグローバル データ ルーティングにリダイレクトするスピルオーバーを許可するように求められます。
   3. [はい] を選択してスピルオーバーを許可します。
   4. [Save (保存)] を選択します。
      データルーティング確認の同意要求が表示され、同意するように通知されます。
   5. [同意する] を選択して続行します。
   6. [Save (保存)] を選択します。
      サードパーティの LLM は、APJC 地域の地域データルーティング設定で構成されます。
4. グローバルデータルーティングを介して LLM を構成します。
   1. [Global (グローバル)] を選択します。
      許可されているすべてのモデルプロバイダーが表示されます。

      • AWS クロード
      • Azure OpenAI
      • グーグルジェミニ
      • Now LLM サービス

      注:

      グローバルデータルーティングを選択すると、データ処理場所がグローバルデータセンターにリダイレクトされます。
   2. すべてのモデルプロバイダーを選択します。
   3. [Save (保存)] を選択します。

タスクの結果

サードパーティの LLM は、APJC リージョンのグローバル データ ルーティング設定で構成されます。

データルーティング、フォールバック、およびスピルオーバーの詳細については、次を参照してください。 AI モデルプロバイダー

規制された市場および AMS および EMEA 地域のサードパーティ LLM を構成するシナリオの詳細については、以下を参照してください。 サードパーティ LLM とデータルーティング構成の詳細