일반 대규모 언어 모델(LLM) 커넥터에 대한 API 자격 증명 구성

일반 LLM 커넥터를 사용하여 외부 AI 제공자와 연결 ServiceNow AI Platform 하여 백그라운드 및 비즈니스 규칙 스크립트와 같은 사용자 지정 가상 에이전트 주제, 플로우 또는 스크립트에서 생성형 AI 기능을 사용합니다.

시작하기 전에

자격 증명을 구성하려면 외부 LLM의 API에 대한 액세스 권한이 있어야 합니다.

필요한 역할: 관리자

이 태스크 정보

모델에 대한 연결 별칭을 생성하여 외부 LLM을 ServiceNow AI Platform 연결하고, 별칭을 가리키는 모델 기록을 만들고, 모델에 대한 프롬프트 기록을 만든 다음, 변환기 기록을 생성하여 LLM의 요청 또는 응답을 변환할 수 있습니다.

프로시저

1. 다음으로 이동 모두 > 연결 및 자격 증명 > 자격 증명.
2. API 키 자격 증명 선택
3. 이름 필드에 API 자격 증명에 이름을 지정합니다.
   API 키 자격 증명에 모델 이름을 포함하면 나중에 식별하기가 더 쉽습니다.
4. API 키 필드에 모델의 API 키를 입력합니다.
   
5. 제출을 선택하여 자격 증명을 생성합니다.
   이 단계에서는 외부 LLM에 대한 API 키 정보가 구성되어 있습니다.
6. 다음으로 이동 모두 > 연결 및 자격 증명 > 연결 및 자격 증명 별칭.
7. 새로 만들기를 선택합니다.
8. 이름 필드에 자격 증명 별칭의 이름을 입력합니다.
   다른 필드 값은 변경할 필요가 없습니다.
9. 제출을 선택합니다.
10. 목록 뷰로 리디렉션되면 방금 생성한 기록을 찾아 엽니다.
11. 연결 관련 목록에서 새로 만들기 를 선택하여 새 연결 기록을 생성합니다.
12. 이름 필드에 연결 이름을 입력합니다.
13. 자격 증명 필드에서 모델의 API 키를 사용하여 생성한 자격 증명 기록을 선택합니다.
    필드에 자격 증명 이름을 입력하여 자격 증명 목록을 검색할 수 있습니다. 조회 아이콘( 을 선택하여 전체 목록으로 모달을 열 수도 있습니다.
14. 연결 별칭 필드에서 생성한 별칭 기록을 선택합니다.
15. 연결 URL의 경우 모델의 엔드포인트 URL을 입력합니다.
    예를 들어 Hugging Face의 모델은 "https://api-inference.huggingface.co"로 시작할 수 있습니다. 나머지 필드는 그대로 둘 수 있습니다.
16. 제출을 선택합니다.

결과

에서 생성형 AI 기능을 ServiceNow AI Platform사용하기 위해 일반 LLM을 연결하는 데 사용할 연결 및 자격 증명 별칭이 있습니다. 다음으로 이동하여 이를 확인할 수 있습니다. 모두 > 연결 및 자격 증명 > 연결 및 자격 증명 별칭 연결을 관련 목록에 표시하는지 확인합니다.

다음에 수행할 작업

일반 LLM 구성에 대한 자세한 내용은 일반 LLM 커넥터 구성 단원을 참조하십시오