Exibição de assinaturas e estatísticas do Kafka

  • Versão de lançamento: Washingtondc
  • Atualizado 1 de fev. de 2024
  • 4 min. de leitura
  • Exiba informações detalhadas sobre um consumidor do Kafka e seu desempenho, incluindo o número de registros adicionados ao tópico, o número de registros processados e o número de registros restantes a serem processados.

    Uma assinatura é um registro associado a um consumidor. Ele armazena detalhes de configuração e desempenho sobre o consumidor. Uma assinatura é criada quando um fluxo do Kafka é ativado.

    Cada página de assinatura inclui as seguintes seções.
    • Assinatura do Kafka
    • Métricas
    • Grupos de partição de assinatura do Kafka
    • Logs do cliente
    • Estatísticas do consumidor do Kafka

    Para exibir um registro de assinatura, navegue até IntegrationHub > Conexão de fluxo > Assinaturas. Selecione o ícone de informações ( ícone de informações) da assinatura que você deseja exibir e selecione Abrir registro.

    Figura 1. Exemplo de página de assinatura para um consumidor do Kafka
    A página de assinatura do Kafka com detalhes da assinatura, métricas e informações sobre grupos de partições, logs do consumidor e estatísticas do consumidor.

    Assinatura do Kafka

    A seção de assinatura do Kafka mostra detalhes de configuração para o consumidor e a assinatura.
    Campo Descrição
    Número Número do registro de assinatura.
    Estado Estado do consumidor. As opções são:
    • ATIVO
    • ATUALIZANDO
    • PARAR
    Tópico Tópico do qual o consumidor está processando mensagens.
    ID do cliente Identificador exclusivo do consumidor.
    Política de posicionamento automático do Kafka Especifica onde o consumidor começa a ler as mensagens do tópico. As opções são:
    • mais antigo: o consumidor inicia a leitura a partir da mensagem mais antiga disponível no tópico.
    • mais recente: o consumidor lê somente as mensagens entregues ao tópico depois que o consumidor é iniciado.
    Tem erro Indica se a assinatura tem erros.
    Simultaneidade Máxima Número máximo de processadores paralelos usados para consumir mensagens e o número de grupos de partição.
    Tempo limite do grupo de partição Tempo máximo, em milissegundos, alocado para cada grupo de partição na assinatura.
    Partições do Kafka Número de partições no tópico.
    Tamanho máximo do lote Número máximo de mensagens processadas por execução. As opções são:
    • otimizado automaticamente: o sistema escolhe o número de mensagens.
    • um número: o usuário selecionou um número manualmente.

    Métricas

    Cada métrica é medida em três intervalos de tempo: os cinco minutos anteriores, a hora anterior e as 24 horas anteriores.
    • Taxa de entrada do tópico: o número médio de registros adicionados ao tópico por segundo.
    • Taxa de processamento do consumidor: o número médio de registros processados por segundo.
    • Profundidade da fila de tópicos: o número médio de registros restantes a serem processados no tópico.

    Grupos de partição de assinatura do Kafka

    A guia Grupos de partição de assinatura do Kafka mostra os detalhes a seguir.
    Campo Descrição
    Número Número do grupo de partição.
    Proprietário deste grupo de partição Estado de propriedade do grupo de partição. As opções são:
    • NENHUM: o grupo de partições não pertence a nenhum trabalho do consumidor do Kafka. Está disponível para retirada e processamento.
    • PROCESSAMENTO: o grupo de partições pertence a um trabalho do consumidor do Kafka e está processando mensagens.
    • BLOQUEADO: o grupo de partições não pertence a um trabalho do consumidor do Kafka e não está disponível para retirada.

    Quando um trabalho do consumidor do Kafka é ativado, ele verifica o registro atualizado mais antigo com um proprietário NONE e escolhe um.

    Em seguida, o trabalho do consumidor muda o proprietário para PROCESSING e o processa por 10 segundos.

    Quando terminar o processamento, o estado será alterado novamente para NONE, para que possa ser selecionado e processado novamente mais tarde.

    Se o trabalho do consumidor processar todas as mensagens, ele definirá o proprietário como BLOQUEADO por 10 segundos, após o qual será definido como NENHUM novamente.

    Atualizado em Data e hora em que o grupo de partições foi atualizado pela última vez.
    Quando a propriedade é perdida Data e hora em que a propriedade foi perdida.
    Primeira partição Número da primeira partição do grupo de partições.
    Última partição (inclusiva) Número da última partição do grupo de partições.
    Taxa de entrada

    Dado para os últimos cinco minutos, última hora e últimas 24 horas.

    Número médio de registros adicionados ao grupo de partições por segundo.
    Processamento do consumidor

    Dado para os últimos cinco minutos, última hora e últimas 24 horas.

    Número médio de mensagens consumidas do grupo de partições por segundo.
    Profundidade da fila

    Dado para os últimos cinco minutos, última hora e últimas 24 horas.

    Número médio de registros restantes a serem processados no grupo de partições.

    Logs do cliente

    A guia Logs do consumidor exibe as entradas de log do consumidor associado. Ele mostra quando cada entrada foi criada, seu nível de log, a mensagem e a origem. Os logs do consumidor são armazenados na tabela Logs do consumidor [sys_consumer_log].

    Você pode aumentar o número de mensagens de log adicionadas aos logs do consumidor habilitando a propriedade glide.ih.kafka.debug.consume.

    Estatísticas do consumidor do Kafka

    A guia Estatísticas do consumidor do Kafka mostra os detalhes a seguir.
    Campo Descrição
    Criado em Data e hora em que o registro de estatísticas do consumidor foi criado.
    Intervalo Duração do registro de estatísticas do consumidor, fornecida em segundos.

    Você pode alterar a duração do intervalo com a propriedade glide.ih.kafka.consumer.log_interval. O valor padrão é 60 segundos.

    Você pode especificar se as mensagens devem ser registradas no log do consumidor quando não houver mensagens do Kafka produzidas ou consumidas durante o intervalo com a propriedade glide.ih.kafka.consumer.log_empty_stats. O valor padrão é verdadeiro.

    Mensagens produzidas Número de mensagens produzidas para o tópico durante o tempo de intervalo.
    Mensagens consumidas Número de mensagens processadas pelo consumidor durante o tempo de intervalo.
    Bytes consumidos Número de bytes processados pelo consumidor durante o tempo de intervalo.
    Deslocamento Soma de todos os deslocamentos do grupo de partições.
    Mensagens de atraso Diferença entre o deslocamento final e o deslocamento atual.
    Deslocamento final Soma de todos os deslocamentos finais do grupo de partições.
    Grupo de partição Registro para o grupo de partição.