Serviço Now LLM atualizações
. Serviço Now LLM Fornece acesso a modelos de linguagem grande especializados (LLMs) desenvolvidos pela ServiceNow. Ele também fornece acesso a LLMs de código aberto que são selecionados, configurados ou aprimorados pela ServiceNow, da comunidade da ServiceNow e de parceiros. Revise esses materiais de referência e os cartões de modelo para obter informações adicionais sobre Serviço Now LLM e sobre os modelos usados.
Cartões de modelo
Modelos de linguagem grandes (LLMs) são modelos complexos de aprendizado de máquina treinados em grandes conjuntos de dados, como sites e documentação, para executar tarefas relacionadas ao idioma, como geração de texto para resumos de casos e anotações de resolução.
Os cartões de modelo explicam o contexto específico do modelo, o uso pretendido, os dados de treinamento, as limitações e outras informações importantes.
Esses cartões de modelo são para habilidades que usam Serviço Now LLM. Existem certas habilidades, como Now Assist Ordenação de catálogo de vários turnos, que usam o Azure OpenAI. Para ver o que LLM uma habilidade está usando, você pode verificar a lista de habilidades em Administração do Now Assist Console e revise a coluna de serviço LLM.
- Modelo de cartão para ServiceNow modelo de idioma grande
- Modelo usado para soluções orientadas por IA para oferecer suporte à compreensão da linguagem natural, à automação e ao suporte à decisão.
- Modelo de cartão para ServiceNow modelo de idioma pequeno
- Modelo usado para aplicações de IA empresarial, aprimorando a automação baseada em texto e a geração de conteúdo nos fluxos de trabalho da ServiceNow.
- Modelo de cartão para ServiceNow modelo de idioma grande de terceiros
- Modelo usado para soluções orientadas por IA para geração de texto, resumo e IA conversacional.
- Modelo de cartão para ServiceNow CSAT inferido e modelo de linguagem grande de fatores
- Este modelo foi projetado para ingerir uma conversa e prever uma pontuação de CSAT, bem como fatores que explicam a pontuação prevista.
Maio de 2025
Um modelo de linguagem pequena (SLM) de uso geral avançado 12B com uma arquitetura singular e de alto desempenho que oferece suporte a uma ampla variedade de tarefas no contexto da ServiceNow foi lançado. Ajustado no Mistral-Nemo-12B-Instruct, este modelo foi projetado e otimizado para tarefas como Assistência do agente, Texto para fluxo, Texto para criptografia, Segurança e moderação de conteúdo e Texto para código.
- Adesão de instrução aprimorada: Melhorou a capacidade do modelo de interpretar e seguir com precisão as instruções do usuário, garantindo que o modelo possa entender e executar melhor comandos complexos. Levando a resultados mais precisos e confiáveis do que as versões anteriores.
- Janela de contexto aumentada: Janela de contexto aumentada de 16K para 32K, permitindo que o modelo entenda melhor as entradas de formato longo, mantenha a coerência nas interações estendidas e ofereça suporte a tarefas mais complexas com uma conscientização contextual mais rica.
- Proficiência multilíngue aprimorada: Desempenho aprimorado em todos os idiomas em comparação com as versões anteriores, com melhorias notáveis no processamento japonês.
- Otimizado para recursos relacionados ao fluxo de trabalho da ServiceNow: Cobertura de suporte estendida para Text-to-Flow e melhoria do desempenho de Text-to-Code, Text-to-Cypher etc.
- Consolidação de implantação de modelo continuamente aprimorada: Integra tarefas relacionadas à ServiceNow em um único modelo, reduzindo a complexidade do sistema ao mesmo tempo e aumentando o desempenho geral.
Março de 2025
Um poderoso modelo de linguagem pequena (SLM) de uso geral 12B projetado para aprimorar uma ampla variedade de aplicações, incluindo casos de uso de texto para código e agente foi lançado. Ajustado no Mistral-Nemo-12B, ele simplifica a implantação e consolida várias funcionalidades em uma arquitetura única.
- Otimizado para atender a casos de uso: Aprimora o resumo de casos, o resumo de bate-papo, as anotações de resolução e a geração da base de conhecimento em idiomas compatíveis, incluindo melhorias na qualidade do japonês.
- Desempenho superior de texto para código e texto para cifra: Oferece grandes avanços na edição e geração de JavaScript Glide e JavaScript genérico, além de maior precisão na geração e execução de consultas para bancos de dados estruturados.
- Moderação e segurança de conteúdo robustas: Fornece proteção mais forte contra avisos adversários, tentativas de invasão de cadeia e geração de conteúdo prejudicial, garantindo uma implantação mais segura com filtragem de conteúdo integrada.
- Implantação de modelo unificado: Integra tarefas relacionadas à ServiceNow em um único modelo, reduzindo a complexidade do sistema e aumentando o desempenho geral.
- Melhoria na adesão à instrução: Oferece melhor acompanhamento de instrução e consistência em vários níveis de aviso e rigor de instrução do que o NowLLM de texto para texto atual.
Novembro de 2024
Várias melhorias importantes foram adicionadas ao Serviço Now LLM que visam melhorar o desempenho e a qualidade.
-
Suporte multilíngue: Serviço Now LLM o oferece suporte a 8 idiomas adicionais, permitindo que as equipes globais usem o modelo em seus idiomas nativos.
Os idiomas compatíveis são: Inglês, alemão, francês, japonês, holandês, francês canadense, espanhol, português do Brasil e italiano.
- Suporte ao formato JSON: O modelo agora fornece saída no formato JSON, facilitando para os desenvolvedores a integração com várias aplicações e a automação de fluxos de trabalho perfeitamente.
- Respostas determinísticas: O modo JSON garante uma saída estruturada e consistente, o que melhora a previsão e a confiabilidade ao integrar com aplicações.
- Redução de erros: Ao contrário do modo de texto de forma livre, as respostas JSON são menos propensas a erros de formatação ou caracteres perdidos, minimizando problemas de integração.
- Menor consumo de token: A estrutura fixa do JSON pode reduzir o uso de token, tornando-o mais eficiente e econômico para aplicações com alta frequência de resposta.
- Melhorias na instrução a seguir: O modelo foi ajustado para entender e seguir as instruções com mais precisão. Isso permite que o modelo forneça respostas mais diretas e acionáveis, ajudando os usuários a obter as informações de que precisam com mais rapidez e eficiência.