Now LLM Service Updates
Die Now LLM Service Bietet Zugriff auf spezialisierte große Sprachmodelle (LLMS), die von ServiceNow entwickelt werden. Es bietet auch Zugriff auf Open Source-LLMS, die von ServiceNow aus der ServiceNow-Community und -Partnern ausgewählt, konfiguriert oder erweitert werden. Überprüfen Sie diese Referenzmaterialien und Modellkarten auf zusätzliche Informationen zu Now LLM Service Und über die verwendeten Modelle.
Modellkarten
Große Sprachmodelle (LLMS) sind komplexe Modelle für maschinelles Lernen, die auf großen Datensätzen wie Websites und Dokumentation trainiert werden, um sprachbezogene Aufgaben auszuführen, z. B. die Textgenerierung für Fallzusammenfassungen und Lösungshinweise.
Modellkarten erläutern den Kontext des spezifischen Modells, die beabsichtigte Verwendung, Trainingsdaten, Einschränkungen und andere wichtige Informationen.
Diese Modellkarten sind für Kompetenzen gedacht, die verwenden Now LLM Service. Es gibt bestimmte Kompetenzen, z. B. Now Assist Multi-Turn-Katalogbestellung, die stattdessen Azure OpenAI verwendet. Um zu sehen, was LLM eine Kompetenz verwendet, können Sie die Kompetenzliste in überprüfen Now Assist-Administrator Konsole und überprüfen Sie die Spalte LLM-Service.
- Modellkarte für ServiceNow Großes Sprachmodell
- Modell, das für KI-gesteuerte Lösungen verwendet wird, um das Verständnis natürlicher Sprache, die Automatisierung und die Entscheidungsunterstützung zu unterstützen.
- Modellkarte für ServiceNow Kleines Sprachmodell
- Modell, das für KI-Enterprise-Anwendungen verwendet wird, indem die textbasierte Automatisierung und Inhaltsgenerierung in ServiceNow-Workflows verbessert wird.
- Modellkarte für ServiceNow Großes Fremdsprachenmodell
- Modell, das für KI-gesteuerte Lösungen für Textgenerierung, Zusammenfassung und Konversations-KI verwendet wird.
- Modellkarte für ServiceNow Abgeleitete CSAT und Faktoren großes Sprachmodell
- Dieses Modell dient dazu, eine Konversation zu erfassen und eine CSAT-Punktzahl sowie Faktoren vorherzusagen, die die vorhergesagte Punktzahl erklären.
Mai 2025
Ein erweitertes Allzweck-Small Language Model (SLM) von 12B mit einer einzigartigen Hochleistungsarchitektur, die eine Vielzahl von Aufgaben im Kontext von ServiceNow unterstützt, wurde veröffentlicht. Dieses auf Mistral-Nemo-12B-Instruct abgestimmte Modell wurde für Aufgaben wie Agent Assist, Text-to-Flow, Text-to-Cypher, Sicherheits- und Inhaltsmoderation und Text-to-Code entwickelt und optimiert.
- Verbesserte Anweisungseinhaltung: Verbesserte Fähigkeit des Modells zur genauen Interpretation und Befolgung von Anwenderanweisungen, um sicherzustellen, dass das Modell komplexe Befehle besser verstehen und ausführen kann. Dies führt zu präziseren und zuverlässigeren Ergebnissen als vorherige Releases.
- Erhöhtes Kontextfenster: Erhöhtes Kontextfenster von 16K auf 32K, sodass das Modell Langform-Eingaben besser verstehen kann, Kohärenz über erweiterte Interaktionen aufrechterhalten und komplexere Aufgaben mit einem umfassenderen kontextbezogenen Bewusstsein unterstützen kann.
- Verbesserte mehrsprachige Kenntnisse: Verbesserte Leistung in allen Sprachen im Vergleich zu vorherigen Releases, mit bemerkenswerten Verbesserungen bei der japanischen Verarbeitung.
- Optimiert für ServiceNow-Workflow-bezogene Funktionen: Erweiterte Support-Abdeckung für Text-to-Flow und verbesserte Leistung von Text-to-Code, Text-to-Cypher usw.
- Kontinuierlich verbesserte Konsolidierung der Modellbereitstellung: Integriert ServiceNow-bezogene Aufgaben in einem einzigen Modell, reduziert die Systemkomplexität und erhöht gleichzeitig die Gesamtleistung.
März 2025
Ein leistungsstarkes 12B Allzweck-Small Language Model (SLM) zur Verbesserung einer Vielzahl von Anwendungen, einschließlich Text-to-Code und Anwendungsfällen für Service Desk-Mitarbeiter, wurde veröffentlicht. Optimiert auf Mistral-Nemo-12B, optimiert es die Bereitstellung und konsolidiert mehrere Funktionalitäten in einer einzigen Architektur.
- Optimiert für die Erfüllung von Anwendungsfällen: Verbessert die Fallzusammenfassung, die Chatzusammenfassung, die Lösungshinweise und die Generierung der Knowledge Base in allen unterstützten Sprachen, einschließlich Verbesserungen der japanischen Qualität.
- Überlegene Text-to-Code- und Text-to-Cypher-Leistung: Bietet wichtige Fortschritte bei der Bearbeitung und Generierung von Glide-JavaScript und generischem JavaScript sowie eine verbesserte Genauigkeit bei der Generierung und Ausführung von Abfragen für strukturierte Datenbanken.
- Robuste Inhaltsmoderation und -Sicherheit: Bietet einen stärkeren Schutz vor Angreifer-Hinweismeldungen, Versuchen gegen Gefängnisse und der Generierung schädlicher Inhalte und stellt eine sicherere Bereitstellung mit integrierter Inhaltsfilterung sicher.
- Einheitliche Modellbereitstellung:integriert ServiceNow-bezogene Aufgaben in einem einzigen Modell, wodurch die Systemkomplexität reduziert und die Gesamtleistung erhöht wird.
- Verbesserte Instruktionseinhaltung: Bietet eine bessere Befolgung von Anweisungen und Konsistenz auf unterschiedlichen Ebenen der Strenge von Prompts und Anweisungen als das aktuelle NowLLM von Text zu Text.
November 2024
Mehrere wichtige Verbesserungen wurden hinzugefügt Now LLM Service Die auf die Verbesserung von Leistung und Qualität abzielen.
-
Mehrsprachige Unterstützung: Now LLM Service Unterstützt 8 zusätzliche Sprachen, sodass globale Teams das Modell in ihren Muttersprachen verwenden können.
Die unterstützten Sprachen sind: Englisch, Deutsch, Französisch, Japanisch, Niederländisch, Französisch-Kanadier, Spanisch, brasilianisches Portugiesisch und Italienisch.
- Unterstützung des JSON-Formats: Das Modell bietet jetzt Ausgaben im JSON-Format, wodurch es Entwicklern leichter ist, in verschiedene Anwendungen zu integrieren und Workflows nahtlos zu automatisieren.
- Deterministische Antworten: Der JSON-Modus stellt eine strukturierte, konsistente Ausgabe sicher, was die Vorhersehbarkeit und Zuverlässigkeit bei der Integration mit Anwendungen verbessert.
- Fehlerreduzierung: Im Gegensatz zum Freiform-Textmodus sind JSON-Antworten weniger anfällig für Formatfehler oder Streuzeichen, wodurch Integrationsprobleme minimiert werden.
- Geringerer Tokenverbrauch: Die feste Struktur von JSON kann die Tokennutzung reduzieren und sie für Anwendungen mit hoher Antwortfrequenz effizienter und kosteneffektiver machen.
- Verbesserungen bei Anweisungen nach: Das Modell wurde optimiert, um Anweisungen genauer zu verstehen und zu befolgen. Dadurch kann das Modell zielorientiertere und umsetzbare Antworten bereitstellen, sodass Anwender die benötigten Informationen schneller und effizienter erhalten.