생성 AI 컨트롤러 릴리스 정보
이 ServiceNow® 생성 AI 컨트롤러 애플리케이션을 사용하면 에서 타사 대규모 언어 모듈(LLM) 제공자 Now Platform 와 함께 생성형 AI 기능을 사용하여 콘텐츠를 생성 및 요약하고, 사용자 감정을 분석하고, 고유한 프롬프트를 작성하여 복잡성을 줄이고 사용자 경험을 향상시킬 수 있습니다. 생성 AI 컨트롤러 이(가) 릴리스에서 Washington DC 강화 및 업데이트되었습니다.
생성 AI 컨트롤러 릴리스의 Washington DC 하이라이트
- 최대 토큰 한도를 초과하는 입력이 있는 LLM에 요청할 때 재귀 요약을 사용합니다. 이렇게 하면 생성형 AI 기능을 사용할 때 더 나은 결과를 얻는 데 필요한 중요한 컨텍스트가 요청에 포함됩니다.
- Aleph Alpha 모델과 통합하고 의 생성형 AI 기능 플로우 디자이너 에서 Luminous LLM을 가상 에이전트 디자이너사용합니다.
자세한 내용은 문서를 참조하십시오 Generative AI Controller .
릴리스의 새로운 기능 Washington DC
- 큰 입력에 대한 재귀 요약Recursive summarization for large inputs
- 대규모 언어 모델(LLM)에는 요청당 최대 토큰 수가 있습니다. 재귀 요약은 큰 입력을 더 작은 조각으로 나누고, 해당 부분을 요약한 다음, 다시 결합하여 원래 호출을 수행합니다. 이 프로세스는 LLM에 요청을 제출할 때 중요한 컨텍스트가 손실되는 것을 방지하여 환각을 줄여 더 정확한 응답을 얻을 수 있습니다.
- Aleph Alpha 모델과 통합합니다.
- 자체 API 자격 증명을 가져와 Aleph Alpha의 Luminous LLM을 Now Platform.
이 릴리스에서 제거됨
- QnA 기능이 제거되었으며 및 플로우 디자이너에서 작업이 제거 가상 에이전트 디자이너 되었습니다.
활성화 정보
생성 AI 컨트롤러Now Platform 는 모든 Now Assist 애플리케이션을 활성화하여 사용할 수 있는 기능입니다. 자세한 내용은 다음을 참조하십시오 . 설치 중 생성 AI 컨트롤러레이블이 표시됩니다.