Crie replicações de tópico de mensagem e Kafka no Stream Connect
Configure replicações de mensagem e tópico para replicar dados entre o. Apache Kafkaambiente e. ServiceNow.
Antes de Iniciar
- Função necessária: Message_replication_admin
- Este recurso requer uma assinatura. Para obter mais informações, consulte Usando Stream Connectpara Apache Kafka.
- Verifique o. Serviço de envio de mensagens HermesE o Gerador de certificados PKI da instância estão funcionando.
- Check the status of and connection to the Hermes Kafka cluster.
- Verifique o. Key Management Framework HealthPara verificar se todos os três itens na seção PKI da instância estão operacionais.
- Configure e inicie um MID Server. Para obter mais informações, consulte Configuring MID Servers. . MID Serverdeve ser capaz de acessar Hermesendpoints por meio do firewall. Trabalhe com o administrador de rede para garantir que os seguintes intervalos de portas estejam abertos.
- Produtor: 4000–4050
- Consumer1: 4100–4150
- Consumer2: 4200–4250
- A replicação de mensagem do Stream Connect usa um alias de conexão e credencial para se conectar ao Kafka local. Create a Connection & Credential aliascom um Tipo de conexão de Kafka . Um alias de conexão e credencial requer um Conexão do Kafka e a. Credencial SSL do Kafka .
- A replicação de mensagem do Stream Connect requer ServiceNowPlug-in do instalador do Stream Connect [com.glide.hub.stream_connect.installer].
Por Que e Quando Desempenhar Esta Tarefa
Esta página mostra como criar um registro de replicação de mensagem e um registro de replicação de tópico Kafka associado.
Um registro de Replicação de mensagem representa um único cluster Kafka. Por exemplo, se você tiver dois clusters Kafka, criará dois registros de replicação de mensagens diferentes, um para cada cluster. Um registro de Replicação de mensagem é o registro primário de todos os tópicos que estão sendo replicados para ou a partir desse cluster. Os registros de replicação de mensagem são armazenados na tabela replicações de mensagem [sys_sc_message_replication].
Um registro de Replicação de tópico do Kafka especifica a replicação de um tópico de origem único para um tópico de destino único. Você não pode replicar um único tópico de origem para vários destinos. Você só pode replicar para cada destino uma vez. Os registros de replicação de tópico do Kafka são armazenados na tabela replicações de tópico do kafka [sys_kafka_topic_replication].
Procedimento
Resultado
Depois de criar todos os registros de replicação de mensagens e tópicos, as mensagens devem ser replicadas. Você pode verificar Status e. Mensagem de erro Campos no registro Replicação de mensagens para obter um status geral de como a replicação está funcionando.
Você também pode verificar Status e. Mensagem de erro Campos em cada registro individual de Replicação de tópico do Kafka para o status de uma replicação de tópico específico.
Cada registro de replicação de tópico do Kafka também tem uma lista relacionada chamada Estatísticas de replicação de mensagem. Quando as replicações estão em execução, esta lista exibe registros de métricas, que são criados a cada 60 segundos para cada replicação de tópico. Cada registro de métricas tem informações sobre a replicação de tópico, incluindo Contagem de mensagens , que mostra o número de mensagens replicadas em cada intervalo de coleta.
O que Fazer Depois
Se você estiver replicando mensagens do Kafka local para ServiceNow, você pode configurar um Script , ETL , ou Mapa de transformação o consumidor deve processar as mensagens ou configurar um Gatilho de mensagem do Kafka para iniciar um fluxo.
Se você estiver replicando mensagens de ServiceNowPara o Kafka local, você pode usar um Kafka Producer stepem Workflow Studioou use API do ProducerV2 para publicar mensagens no HermesE seu Kafka local.