Notas de versão Controlador de IA generativa
A aplicação ServiceNow® Controlador de IA generativa permite que você use recursos de IA generativa com provedores de módulo de idioma grande (LLM) de terceiros no Now Platform para reduzir a complexidade e aprimorar a experiência do usuário, gerando e resumindo conteúdo, analisando o sentimento do usuário e escrevendo prompts exclusivos. Controlador de IA generativa foi aprimorado e atualizado na versão Washington DC.
Controlador de IA generativa destaques para a versão Washington DC
- Use o resumo recursivo ao fazer solicitações a LLMs com entradas acima do limite máximo de token. Dessa forma, sua solicitação contém o contexto importante necessário para obter melhores resultados ao usar recursos de IA generativa.
- Integre aos modelos Aleph Alpha e use o Luminous LLM em recursos de IA generativa em Flow Designer e Designer do Virtual Agent.
Consulte Generative AI Controller para obter mais informações.
Novidades da versão Washington DC
- Resumo recursivo para entradas grandes
- Os modelos de idioma grandes (LLMs) têm um número máximo de tokens por solicitação. O resumo recursivo divide as entradas grandes em partes menores, resume essas partes e as recombina para fazer a chamada original. Esse processo evita que um contexto importante seja perdido ao enviar solicitações ao LLM, o que pode resultar em respostas mais precisas com menos alucinações.
- Integre com modelos Aleph Alpha.
- Traga suas próprias credenciais de API e conecte o Luminous LLM da Aleph Alpha com o Now Platform.
Removido nesta versão
- O recurso QnA foi removido e a ação foi removida de Designer do Virtual Agent e Flow Designer.
Informações de ativação
Controlador de IA generativa é um recurso Now Platform que está disponível com a ativação de qualquer aplicação Now Assist. Para obter detalhes, consulte Instalando Controlador de IA generativa.