Exibição de assinaturas e estatísticas do Kafka

  • Versão de lançamento: Xanadu
  • Atualizado 1 de ago. de 2024
  • 4 min. de leitura
  • Exiba informações detalhadas sobre um consumidor do Kafka e seu desempenho, incluindo o número de registros adicionados ao tópico, o número de registros processados e o número de registros restantes a serem processados.

    Uma assinatura é um registro associado a um consumidor. Ele armazena detalhes de configuração e desempenho sobre o consumidor. Uma assinatura é criada quando um fluxo do Kafka é ativado.

    Cada página de assinatura inclui as seguintes seções.
    • Assinatura do Kafka
    • Métricas
    • Grupos de partição de assinatura do Kafka
    • Logs do consumidor
    • Estatísticas do consumidor do Kafka

    Para exibir um registro de assinatura, navegue até IntegrationHub > Conexão de fluxo > Assinaturas. Selecione o ícone de informações ( ícone de informações) da assinatura que você deseja exibir e selecione Abrir registro.

    Figura 1. Página de assinatura de amostra para um consumidor do Kafka
    A página de assinatura do Kafka com detalhes de assinatura, métricas e informações sobre grupos de partição, logs de consumidor e estatísticas de consumidor.

    Assinatura do Kafka

    A seção Assinatura do Kafka mostra detalhes de configuração para o consumidor e a assinatura.
    Campo Descrição
    Número Número do registro de assinatura.
    Estado Estado do consumidor. As opções são:
    • ATIVO
    • ATUALIZANDO
    • PARANDO
    Tópico Tópico do qual o consumidor está processando mensagens.
    ID do cliente Identificador exclusivo do consumidor.
    Política de posicionamento automático do Kafka Especifica onde o consumidor começa a ler as mensagens do tópico. As opções são:
    • mais antigo: o consumidor começa a ler a partir da mensagem mais antiga disponível no tópico.
    • Latest: o consumidor lê somente as mensagens entregues ao tópico após o início do consumidor.
    Tem erro Indica se a assinatura tem erros.
    Simultaneidade Máxima Número máximo de processadores paralelos usados para consumir mensagens e o número de grupos de partição.
    Tempo excedido da partição do grupo Tempo máximo, em milissegundos, alocado para cada grupo de partição na assinatura.
    Partições do Kafka Número de partições no tópico.
    Tamanho máximo do lote Número máximo de mensagens processadas por execução. As opções são:
    • otimizado automaticamente: o sistema escolhe o número de mensagens.
    • um número: o usuário selecionou um número manualmente.

    Métricas

    Cada métrica é medida em três intervalos de tempo: os últimos cinco minutos, a hora anterior e as 24 horas anteriores.
    • Taxa de entrada de tópico: o número médio de registros adicionados ao tópico por segundo.
    • Taxa de processamento do consumidor: o número médio de registros processados por segundo.
    • Profundidade da fila de tópicos: o número médio de registros restantes a serem processados no tópico.

    Grupos de partição de assinatura do Kafka

    A guia Grupos de partição de assinatura do Kafka mostra os seguintes detalhes.
    Campo Descrição
    Número Número do grupo de partição.
    Proprietário deste grupo de partição Estado de propriedade do grupo de partição. As opções são:
    • NONE: o grupo de partição não pertence a nenhum trabalho do consumidor do Kafka. Está disponível para retirada e processamento.
    • PROCESSAMENTO: o grupo de partição pertence a um trabalho de consumidor do Kafka e está processando mensagens.
    • BLOQUEADO: o grupo de partição não pertence a um trabalho de consumidor do Kafka e não está disponível para retirada.

    Quando um trabalho de consumidor do Kafka é ativado, ele verifica o registro atualizado mais antigo com um proprietário NONE e escolhe um.

    Em seguida, o trabalho do consumidor muda o proprietário para PROCESSING e o processa por 10 segundos.

    Quando o processamento é concluído, o estado é alterado novamente para NONE, para que possa ser selecionado e processado novamente mais tarde.

    Se o trabalho do consumidor processar todas as mensagens, ele definirá o proprietário como BLOQUEADO por 10 segundos e, em seguida, será definido como NONE novamente.

    Atualizado em Data e hora em que o grupo de partição foi atualizado pela última vez.
    Quando a propriedade é perdida Data e hora em que a propriedade foi perdida.
    Primeira partição Número da primeira partição do grupo de partições.
    Última partição (inclusive) Número da última partição do grupo de partições.
    Taxa de entrada

    Fornecido para os últimos cinco minutos, última hora e últimas 24 horas.

    Número médio de registros adicionados ao grupo de partição por segundo.
    Processamento do consumidor

    Fornecido para os últimos cinco minutos, última hora e últimas 24 horas.

    Número médio de mensagens consumidas do grupo de partição por segundo.
    Profundidade da fila

    Fornecido para os últimos cinco minutos, última hora e últimas 24 horas.

    Número médio de registros restantes a serem processados no grupo de partição.

    Logs do consumidor

    A guia Logs do consumidor exibe as entradas de log do consumidor associado. Ele mostra quando cada entrada foi criada, seu nível de log, a mensagem e a origem. Os logs do consumidor são armazenados na tabela Logs do consumidor [sys_consumer_log].

    Você pode aumentar o número de mensagens de log adicionadas aos logs do consumidor habilitando a propriedade glide.ih.kafka.debug.consume.

    Estatísticas do consumidor do Kafka

    A guia Estatísticas do consumidor do Kafka mostra os seguintes detalhes.
    Campo Descrição
    Criação Data e hora em que o registro de estatísticas do consumidor foi criado.
    Intervalo Duração do registro de estatísticas do consumidor, fornecida em segundos.

    Você pode alterar o comprimento do intervalo com a propriedade glide.ih.kafka.consumer.log_interval. O valor padrão é 60 segundos.

    É possível especificar se as mensagens serão registradas no log do consumidor quando não houver mensagens do Kafka produzidas ou consumidas durante o intervalo com a propriedade glide.ih.kafka.consumer.log_empty_stats. O valor padrão é verdadeiro.

    Mensagens produzidas Número de mensagens produzidas para o tópico durante o tempo de intervalo.
    Mensagens consumidas Número de mensagens processadas pelo consumidor durante o tempo de intervalo.
    Bytes consumidos Número de bytes processados pelo consumidor durante o tempo de intervalo.
    Deslocamento Soma de todos os deslocamentos do grupo de partição.
    Mensagens de atraso Diferença entre o deslocamento final e o deslocamento atual.
    Deslocamento final Soma de todos os deslocamentos finais do grupo de partição.
    Partição do grupo Registro para o grupo de partição.