Große Sprachmodelle auf der ServiceNow AI Platform

ServiceNow AI Platform® Verwendet große Sprachmodelle (LLM) für generative KI und agentische KI-Funktionalität. Sie können auswählen ServiceNow® LLM oder unterstützte Drittparteimodelle. LLMS Erbringen Sie die Anwendung für generative KI Fähigkeiten durch Verständnis und Generierung menschlicher Sprache und Verarbeitung großer Datenmengen.

Drittpartei-Modellanbieter

ServiceNow® Unterstützt Drittanbieter von KI-Modellen, was bedeutet, dass die Administratorpersona eine große Drittpartei-Sprache oder einen KI-Modellanbieter für auswählen kann Now Assist Kompetenzen, die standardmäßig verfügbar sind. Die Now LLM Service Ist das Standard-LLM. Suchen Sie nach den unterstützten Modellanbietern, den LLM-Services und der Version.

Tabelle : 1. Drittpartei-KI-Modellanbieter

Modellanbieter	Großes Sprachmodell	Version	Bereitstellungsrichtlinie
ServiceNow®	Now LLM Service	Aktuelles Update für Ihre Instanz	Standard
Microsoft Azure	Azure OpenAI	OpenAI GPT-4,1 und GPT-4,1-Mini	https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/deployment-types#global-standard

Hinweis:

Einige sofort einsatzbereite Kompetenzen, Service Desk-Mitarbeiter und Agentic Workflows werden nicht unterstützt Now LLM Service Oder Drittpartei-Modellanbieter. Weitere Informationen zu den Ausnahmen für den LLM-Service und die Unterstützung von Drittanbietermodellen finden Sie unter https://support.servicenow.com/kb?id=kb_article_view&sysparm_article=KB2222333

Große Auswahl an Sprachmodellen

Diese Auswahl wird auf verschiedenen Ebenen unterstützt, z. B. auf Kompetenz-, Kompetenzgruppen- und Instanzebene. Die Steuerungen, die die LLMS-Zuordnung zu verschiedenen Kompetenzen definieren, die an verschiedenen globalen Standorten zulässig sind, werden jedoch in konfiguriert und genehmigt KI-Kontrollstelle Vom KI-Steward. Die Modellanbieteroptionen für anwenderdefinierte Kompetenzen, die in erstellt wurden Now Assist Kompetenzkit und KI-Agenten-Studio Sind auch in konfiguriert KI-Kontrollstelle. Siehe Um mehr zu erfahren.

Die Verwalten Sie große Sprachmodelle Mit dieser Funktion kann die Administratorpersona zusätzliche Aktionen ausführen, z. B.:

• Bearbeiten Sie den Modellanbieter auf den Ebenen Instanz, Kompetenzgruppe und Kompetenz
• Deaktivieren Sie aktive Kompetenzen, die nicht mit Fallback AS konform sind Nein . Siehe KI-Modellanbieter Um mehr zu erfahren.
• Zeigen Sie den Audit-Verlauf von Richtlinienaktualisierungen nach KI-Steward in an KI-Kontrollstelle
• Wählen Sie zulässige Modellanbieter für domänengetrennte Instanzen aus.

Siehe Um mehr über die Verwaltung zu erfahren.

Weitere Informationen zum Auswählen und Aktualisieren von Modellanbietern finden Sie unter .

• Now LLM Service Updates
  Die Now LLM Service Bietet Zugriff auf spezialisierte große Sprachmodelle (LLMS), die von ServiceNow entwickelt werden. Es bietet auch Zugriff auf Open Source-LLMS, die von ServiceNow aus der ServiceNow-Community und -Partnern ausgewählt, konfiguriert oder erweitert werden. Überprüfen Sie diese Referenzmaterialien und Modellkarten auf zusätzliche Informationen zu Now LLM Service Und über die verwendeten Modelle.
• Allgemeine Richtlinien für das Schreiben von Anweisungen für Generative AI Large Language Models (LLMS)
  Bei Verwendung von Now Assist Produkte und Kompetenzen haben Sie möglicherweise die Möglichkeit, dem LLM bestimmte Anweisungen oder andere Anleitungen zu geben. Das Schreiben von Anweisungen für generative KI unterscheidet sich von der Durchführung einer Stichwortsuche. Beachten Sie bei der Erstellung Ihrer Anweisungen die folgenden allgemeinen Richtlinien.