외부 공급업체 LLM 및 지역 탐색

지역을 기반으로 외부 공급업체 LLM 및 SLM을 구성하기 위한 모든 시나리오를 살펴봅니다.

구성 개요

다음은 LLM을 구성할 때 고려해야 할 몇 가지 시나리오입니다.

APJC, AMS &; EMEA 지역

LLM은 전역 라우팅 옵션이 없고 허용된 모든 제공자를 볼 수 있으므로 지역별 데이터 라우팅 구성을 따릅니다

규제 대상 시장

데이터 라우팅 구성을 사용할 수 없으며 허용되는 공급자 목록이 제한됩니다. 허용된 제공자를 볼 수 있지만 읽기 전용 형식으로만 볼 수 있습니다.

폴백을 활성화하면 승인된 제공자가 지원하는 AI 시스템이 기본 제공자를 사용하여 활성 상태를 유지할 수 있습니다. 폴백을 수동으로 비활성화하면 이러한 AI 시스템이 비활성 상태로 유지됩니다.

데이터 라우팅, 폴백, 스필오버 및 Impact 요약에 대한 자세한 내용은 다음을 참조하십시오. AI 모델 제공자 탐색

APJC 지역에 대한 외부 공급업체 LLM 구성에 대한 자세한 내용은 다음을 참조하십시오. AI 컨트롤 타워를 사용하여 외부 공급업체 LLM 구성