를 사용하여 외부 공급업체 LLM 구성 AI 컨트롤 타워

AI AI 컨트롤 타워 모델 제공자 섹션을 사용하여 APJC 지역의 데이터 라우팅 구성을 기반으로 타사 대규모 언어 모델(LLM)을 구성합니다.

시작하기 전에

필요한 역할: AI 사무장 [sn_ai_governance.ai_steward]

프로시저

1. 다음으로 이동 모두 > AI 컨트롤 타워 > 구성 > 통제 > AI 모델 제공자.
2. 편집을 선택합니다.
   다음 유형의 데이터 라우팅 구성을 통해 AI 모델 요청을 구성할 수 있습니다.

   1. 지역
   2. 전역
3. 지역 데이터 라우팅을 통해 LLM을 구성합니다.
   1. Regional(지역)을 선택합니다.
      허용된 모든 모델 제공자가 표시됩니다.

      • Now LLM 서비스
      • AWS 클로드
      • Azure OpenAI
   2. 조직 정책에 따라 모델 제공자를 선택합니다.
      Azure OpenAI를 선택하면 트래픽을 전역 데이터 라우팅으로 리디렉션하는 스필오버를 허용하라는 메시지가 표시됩니다.
   3. 예를 선택하여 유출을 허용합니다.
   4. 저장을 선택합니다.
      동의를 제공하라는 데이터 라우팅 확인 동의 요청이 나타납니다.
   5. 동의를 선택하고 계속 진행합니다.
   6. 저장을 선택합니다.
      타사 LLM은 APJC 지역에 대한 지역 데이터 라우팅 구성으로 구성됩니다.
4. 전역 데이터 라우팅을 통해 LLM을 구성합니다.
   1. 전역을 선택합니다.
      허용된 모든 모델 제공자가 표시됩니다.

      • AWS 클로드
      • Azure OpenAI
      • Google 쌍둥이자리
      • Now LLM 서비스

      주:

      전역 데이터 라우팅을 선택하면 데이터 처리 위치가 글로벌 데이터센터로 리디렉션됩니다.
   2. 모든 모델 제공자를 선택합니다.
   3. 저장을 선택합니다.

결과

타사 LLM은 APJC 지역에 대한 전역 데이터 라우팅 구성으로 구성됩니다.

데이터 라우팅, 대체 및 스필오버에 대한 자세한 내용은 다음을 참조하십시오. AI 모델 제공자

규제 시장 및 AMS 및 EMEA 지역에 대한 외부 공급업체 LLM을 구성하는 시나리오에 대한 자세한 내용은 다음을 참조하십시오. 외부 공급업체 LLM 및 데이터 라우팅 구성 탐색