Schemaverwaltung in Stream Connect
Importieren und erstellen Sie Schemas zum Senden und Empfangen von Nachrichten in einem Apache Avro-Format. Die Verwendung eines Avro-Formats kann die Größe der Nutzlast reduzieren und Ihre Integration in Ihre lokale Kafka-Instanz vereinfachen.
Avro ist ein Open-Source-Datenserialisierungssystem, das Schemas zum Strukturieren codierter Daten verwendet. Mit einem Avro-Schema können Daten aus nur-Text-JSON in ein Avro-Binärformat und zurück konvertiert werden. Sie können Schemas in speichern ServiceNow, Damit Ihre Stream Connect-Ersteller und -Verbraucher die Schemas verwenden können, um Avro-Nachrichten zu serialisieren.
Die folgende Abbildung zeigt eine Übersicht über die Schemaverwaltung in Stream Connect. Schemas, die in Schemaregistrierungen gespeichert sind, ermöglichen die Konvertierung von Nachrichten in Erstellern und Verbrauchern von nur-Text in ein Avro-Format und zurück.
Schemen
Sie können ein Schema aus der Confluent-Registrierung importieren oder ein eigenes eigenständiges Schema erstellen, indem Sie eine JSON-Datei hochladen oder ein Schema direkt als JSON-formatierte Zeichenfolge eingeben.
Nachdem Ihr Schema importiert oder erstellt wurde, können Sie es in der Tabelle „Stream Connect-Schemas“ [Stream_Connect_Schema] anzeigen, in der sowohl Confluent- als auch eigenständige Schemas gespeichert sind. Darüber hinaus sind Confluent-Schemas in der Tabelle „Confluent Stream Connect-Schema“ [confluent_Stream_Connect_Schema] sichtbar. Eigenständige Schemas befinden sich in der Tabelle „eigenständiges Stream Connect-Schema“ [Standalone_Stream_Connect_Schema].
Alle Schemas haben eine Schema-ID, einen global eindeutigen Bezeichner des Schemas. Bei Confluent-Schemas wird die Schema-ID aus der Confluent-Registrierung importiert. Bei eigenständigen Schemas wird die Schema-ID lokal generiert und ist in der Instanz eindeutig. Standardmäßig ist der generierte Schema-ID-Wert die nächsthöchste verfügbare Schema-ID in der Instanz. Wenn Ihre Schemas beispielsweise ID-Nummern eins bis fünf haben, hat das nächste von Ihnen erstellte Schema eine Schema-ID von sechs. Sie können den Standardwert ändern.
Schema-IDs sind pro Registrierung eindeutig. Beispielsweise können zwei Schemas beide eine ID von 1 haben, solange sie sich in verschiedenen Registrierungen befinden.
Schemaregistrierungen
Jedes Schema gehört zu einer Registrierung. Es gibt zwei Arten von Schemaregistrierungen in ServiceNow: Die Confluent-Schemaregistrierung und die eigenständige Schemaregistrierung.
Beide Schemaregistrierungen haben die Option zu Im Update-Satz nachverfolgen . Wenn diese Option aktiviert ist, werden die Schemas in dieser Registrierung im Update-Satz gespeichert. Durch das Speichern der Schemas im Update-Satz können sie von einer Umgebung in eine andere verschoben werden. Standardmäßig ist diese Option für die Confluent-Schemaregistrierung deaktiviert, da sich Schema-IDs von einer Umgebung in eine andere ändern können. Diese Option ist für die eigenständige Schemaregistrierung aktiviert, da die Schema-ID bei manueller Erstellung von Schemas weniger wahrscheinlich von einer Umgebung in eine andere geändert wird. Navigieren Sie zu , um die Standardeinstellung für beide Registrierungen zu ändern , Wählen Sie die Registrierung aus, und ändern Sie Im Update-Satz nachverfolgen Option.
Nachrichtenformat auf Überweisungsebene
| Byte 0 | Magisches Byte. |
| Byte 1–4 | Schema-ID. |
| Verbleibende Byte | Daten, serialisiert in einem Avro-Format. |
Hersteller und Verbraucher
Stream Connect-Ersteller und -Verbraucher können für die Verwendung eines Avro-Formats konfiguriert werden.
Geben Sie beim Konfigurieren eines Erstellers einfach an, welches Schema Sie verwenden möchten. Wenn Sie dann den Ersteller ausführen, wird die Nachrichtennutzlast in JSON generiert und automatisch mit dem angegebenen Schema in ein Avro-Format konvertiert. Weitere Informationen zu Erstellern finden Sie unter Oder ProducerV2-API .
Die Konfiguration eines Verbrauchers ist ähnlich. Geben Sie das Serialisierungsformat als an Codiert Und wählen Sie eine Schemaregistrierung aus. Wenn der Verbraucher eine Nachricht im Avro-Format erhält, wird sie gemäß dem Schema für die in der Nachricht empfangene Schema-ID automatisch in JSON konvertiert. Weitere Informationen finden Sie unter Kafka-Nachrichtenauslöser Oder ETL , Transformationszuordnung , Oder Skript Verbraucher.
Plugin
Schemaverwaltungsfunktionen erfordern ServiceNow Stream Connect-Installationsprogramm [Plugin com.glide.hub.stream_connect.installer].