일반 LLM(대규모 언어 모델) 커넥터에 대한 API 자격 증명 구성

일반 LLM 커넥터를 사용하여 외부 AI 제공자와 연결하고 ServiceNow AI Platform 사용자 지정 가상 에이전트 주제, 플로우 또는 스크립트(예: 백그라운드 및 비즈니스 규칙 스크립트)에서 생성형 AI 기능을 사용합니다.

시작하기 전에

자격 증명을 구성하려면 외부 LLM의 API에 대한 액세스 권한이 있어야 합니다.

필요한 역할: 관리자

이 태스크 정보

모델에 대한 연결 별칭을 생성하여 외부 LLM ServiceNow AI Platform 을 연결하고, 별칭을 가리키는 모델 기록을 생성하고, 모델에 대한 프롬프트 기록을 생성한 다음, 변환기 기록을 생성하여 LLM의 요청 또는 응답을 변환할 수 있습니다.

프로시저

1. 다음으로 이동 모두 > 연결 및 자격 증명 > 자격 증명.
2. API 키 자격 증명 선택
3. 이름 필드에서 API 자격 증명에 이름을 지정합니다.
   API 키 자격 증명에 모델 이름을 포함하면 나중에 쉽게 식별할 수 있습니다.
4. API 키 필드에 모델의 API 키를 입력합니다.
   
5. 제출을 선택하여 자격 증명을 생성합니다.
   이 단계에서는 외부 LLM에 대한 API 키 정보를 구성합니다.
6. 다음으로 이동 모두 > 연결 및 자격 증명 > 연결 및 자격 증명 별칭.
7. 새로 만들기를 선택합니다.
8. 이름 필드에 자격 증명 별칭의 이름을 입력합니다.
   다른 필드 값은 변경할 필요가 없습니다.
9. 제출을 선택합니다.
10. 목록 뷰로 리디렉션된 후 방금 생성한 기록을 찾아서 엽니다.
11. 연결 관련 목록에서 새로 만들기를 선택하여 새 연결 기록을 작성합니다.
12. 이름 필드에 연결 이름을 입력합니다.
13. 자격 증명 필드에서 모델의 API 키로 생성한 자격 증명 기록을 선택합니다.
    필드에 자격 증명 이름을 입력하여 자격 증명 목록을 검색할 수 있습니다. 조회 아이콘( . )을 선택하여 전체 목록이 있는 모달을 열 수도 있습니다.
14. 연결 별칭 필드에서 생성한 별칭 기록을 선택합니다.
15. 연결 URL에 모델의 엔드포인트 URL을 입력합니다.
    예를 들어 Hugging Face의 모델은 "https://api-inference.huggingface.co"로 시작할 수 있습니다. 나머지 필드는 그대로 두어도 됩니다.
16. 제출을 선택합니다.

결과

에서 생성형 AI 기능을 ServiceNow AI Platform사용하기 위해 일반 LLM을 연결하는 데 사용할 연결 및 자격 증명 별칭이 있습니다. 다음으로 이동하여 이를 확인할 수 있습니다. 모두 > 연결 및 자격 증명 > 연결 및 자격 증명 별칭 연결이 관련 목록에 나타나는지 확인합니다.

다음에 수행할 작업

일반 LLM 구성에 대한 자세한 내용은 을 참조하십시오 일반 LLM 커넥터 구성