외부 공급업체 AI 제공자 통합을 위한 자신의 키 가져오기

BYOK(자신의 키 가져오기) 기능을 사용하면 Bedrock 및 Google Gemini과 같은 Azure OpenAIAmazon 지원되는 클라우드 AI 제공자의 자체 API 자격 증명을 사용하여 기술 및 AI 에이전트를 실행할 Now Assist 수 있습니다.

BYOK가 활성화 Now Assist 되면 인프라 대신 ServiceNow AI Platform 클라우드 AI 제공자 계정을 통해 모델 요청을 보냅니다. 이 접근 방식을 사용하면 기능을 계속 사용 Now Assist 하면서 AI 구성, 보안 통제 및 데이터 처리 환경에 대한 소유권을 유지할 수 있습니다.

BYOK은 지원하는 ServiceNow AI Platform 것과 동일한 AI 모델을 지원합니다. API 자격 증명을 구성한 후 에서는 Now Assist 기본 ServiceNow AI 제공자를 사용하는 대신 제공자 자원을 사용하여 요청을 처리합니다. BYOK는 사용자의 키를 사용자의 통제 하에 유지하고 클라우드 환경 내에서 AI 워크로드가 실행되도록 합니다.

주:

조직의 클라우드 AI 제공자 계정을 사용하면 해당 제공자로부터 추가 요금이 부과될 수 있습니다. BYOK를 활성화하기 전에 제공자의 가격 및 서비스 약관을 검토합니다.

ServiceNow 통합 모델 제공자

BYOK는 다음과 같은 클라우드 AI 제공자를 지원합니다.

• Azure OpenAI
• Anthropic Claude on AWS, Bedrock을 통해 Amazon 액세스할수 있습니다 .
• Google Gemini

클라우드 AI 제공자와 BYOK 연결 구성

인스턴스 내에서 ServiceNow 클라우드 AI 제공자 자원을 사용하려면 제공자 간의 ServiceNow 연결을 구성합니다. 구성 단계는 제공자마다 다르지만 다음 단계와 유사한 상위 수준 구성을 워크플로우 따릅니다.

1. 엔드포인트, API 키 및 지역과 같은 제공자에 대한 연결 및 자격 증명을 생성합니다.
2. 관리자에서 Now Assist 제공자에 대해 BYOK를 사용하도록 설정합니다.
3. 모델 별칭을 제공자 모델 버전에 매핑 ServiceNow 합니다. 예를 들어 gemini_large → 2.5 Pro를 매핑합니다.
4. 선택적으로, 버전 관리에서 각 기술의 변형을 재정의합니다.
5. 아웃바운드 HTTPS 로그를 검토하여 요청이 AI 제공자 계정을 사용하고 있는지 확인합니다.

지원되는 각 클라우드 AI 제공자에 대한 단계별 지침은 다음을 참조하십시오. 에 대한 BYOK(자신의 키 가져오기) 구성 Now Assist 및 AI 에이전트 [KB2666298] Now Support 지식 문서를 참조하십시오.

에 대한 상위 수준 BYOK 구성 Azure OpenAI

1. 인스턴스 내에서 ServiceNow 사용할 Azure OpenAI 고유한 키로 연결을 설정합니다Azure OpenAI.

   자세한 내용은 OpenAI에 대한 Azure API 자격 증명 구성 문서를 참조하십시오.

2. 인스턴스에서 인식하고 사용할 수 있도록 ServiceNow 모델 및 배포 이름을 구성 Azure OpenAI 합니다.생성형 AI 컨트롤러

   자세한 내용은 Create a custom embedding model 문서를 참조하십시오.

3. 프롬프트 구성을 수정하여 LLM에 Azure OpenAI 보낼 고유한 프롬프트를 작성합니다.

   자세한 내용은 일반 대규모 언어 모델(LLM) 커넥터 구성 문서를 참조하십시오.

4. AI 처리에 BYOK를 사용하도록 제공자를 전환합니다.

   자세한 내용은 통합 관리 문서를 참조하십시오.

관련 태스크

• BYOK 모델에 대한 사용자 지정 자원 경로 구성