Asas Apache Kafka & Pemprosesan Aliran · Pelajaran

Penjejakan dan Amaran Ketinggalan Pengguna

Pelajari maksud ketinggalan pengguna, cara mengukurnya menggunakan alat terbina dalam dan cara menetapkan amaran sebelum pengguna ketinggalan dengan berbahaya.

Pelajaran 4 daripada 413 langkah

Penjejakan dan Amaran Ketinggalan Pengguna ialah pelajaran Asas Apache Kafka & Pemprosesan Aliran percuma di CoddyKit. Ini ialah pelajaran 4 daripada 4. Sebanyak 3 pelajaran dalam laluan pembelajaran ini boleh dibaca sepenuhnya secara percuma — selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan praktikal dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Asas Apache Kafka & Pemprosesan Aliran, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Asas Apache Kafka & Pemprosesan Aliran merangkumi sejumlah 4 pelajaran.

Apakah Kelengahan Pengguna?

Kelengahan pengguna ialah perbezaan antara ofset terkini yang dihasilkan kepada sesuatu partisi (ofset hujung log) dengan ofset yang telah dilakukan oleh kumpulan pengguna.

Kelengahan memberitahu sejauh mana pengguna anda ketinggalan. Kelengahan yang meningkat bermakna pengguna tidak dapat mengimbangi pengeluar.

Mengapa Kelengahan Penting

Kelengahan tinggi mempunyai akibat sebenar:

  • Data hilang kesegaran di hiliran (papan pemuka, amaran, ciri ML).
  • Risiko mencapai tempoh pengekalan dan kehilangan mesej yang belum digunakan.
  • Petunjuk bahawa pengguna tidak mencukupi saiznya atau terdapat partisi yang tersekat.

Menyemak Kelengahan daripada CLI

Cara terpantas untuk melihat kelengahan ialah menggunakan kafka-consumer-groups.sh bersama --describe.

kafka-consumer-groups.sh \
  --bootstrap-server localhost:9092 \
  --describe \
  --group order-processors

Membaca Output

Output huraian menunjukkan lajur mengikut partisi:

  • CURRENT-OFFSET — ofset terakhir yang telah dilakukan.
  • LOG-END-OFFSET — ofset paling baharu dalam partisi.
  • LAG — perbezaan antara kedua-duanya.

Jumlahkan LAG merentas partisi untuk mendapatkan jumlah kelengahan kumpulan.

Kelengahan melalui Metrik JMX

Setiap pengguna mendedahkan kelengahan melalui JMX di bawah kumpulan consumer-fetch-manager-metrics.

  • records-lag-max — kelengahan maksimum merentas partisi yang ditugaskan.
  • records-lag — kelengahan mengikut partisi.

Metrik ini berada pada sisi klien dan dikemas kini hampir dalam masa nyata.

Burrow dan Kafka Exporter

Untuk pemantauan pengeluaran, alat khusus meninjau kelengahan bagi semua kumpulan:

  • Burrow — menilai arah aliran kelengahan dan melaporkan status kumpulan (OK/WARN/ERR).
  • kafka_exporter — mendedahkan kelengahan sebagai metrik Prometheus.

Metrik Kelengahan Prometheus

Dengan kafka_exporter, kelengahan tersedia sebagai siri masa berlabel yang boleh anda plot dan gunakan untuk amaran dalam Grafana.

# Example Prometheus metric
kafka_consumergroup_lag{consumergroup="order-processors",topic="orders",partition="0"} 1423

Menulis Amaran Kelengahan

Beri amaran tentang kelengahan tinggi yang berterusan, bukan lonjakan seketika. Peraturan biasa dicetuskan apabila jumlah kelengahan melebihi ambang selama beberapa minit.

# Prometheus alert rule
- alert: HighConsumerLag
  expr: sum(kafka_consumergroup_lag{consumergroup="order-processors"}) > 10000
  for: 5m
  labels:
    severity: warning

Kadar Kelengahan berbanding Kelengahan Mutlak

Kelengahan mutlak sahaja boleh mengelirukan — 10,000 mesej mungkin bersamaan beberapa saat data bagi topik yang pantas.

Jejaki kadar perubahan: jika kelengahan terus meningkat, pengguna sedang kalah dalam persaingan walaupun angka semasa kelihatan baik.

Mengurangkan Kelengahan

Apabila kelengahan meningkat, pilihan anda termasuk:

  • Tambah pengguna (sehingga bilangan partisi).
  • Tingkatkan bilangan partisi untuk membolehkan lebih banyak pemprosesan selari.
  • Laraskan max.poll.records dan kecekapan pemprosesan.
  • Periksa partisi yang perlahan atau tersekat / mesej beracun.

Amalan Terbaik Operasi

Jadikan kelengahan sebagai isyarat utama:

  • Paparkan jumlah kelengahan dan kelengahan mengikut partisi bagi setiap kumpulan kritikal pada papan pemuka.
  • Beri amaran berdasarkan arah aliran kelengahan, bukan ambang semata-mata.
  • Kekalkan kelengahan jauh di bawah tetingkap pengekalan supaya anda tidak kehilangan data.

Semakan Pantas

Uji pemahaman anda tentang kelengahan pengguna.

Imbas Kembali

Anda telah mempelajari cara menjejak dan memberi amaran tentang kelengahan pengguna.

  • Kelengahan = ofset hujung log tolak ofset yang telah dilakukan.
  • Periksanya melalui kafka-consumer-groups.sh, JMX, Burrow atau kafka_exporter.
  • Beri amaran tentang kelengahan yang berterusan dan kadar pertumbuhan kelengahan.
  • Kurangkan kelengahan dengan menskalakan pengguna/partisi dan melaraskan pemprosesan.
Percuma untuk bermula

Pelajari Asas Apache Kafka & Pemprosesan Aliran dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus
12
Pelajaran
48

Soalan Lazim

Adakah pelajaran “Penjejakan dan Amaran Ketinggalan Pengguna” percuma?

Ya — sebanyak 3 pelajaran dalam laluan pembelajaran Asas Apache Kafka & Pemprosesan Aliran, termasuk “Penjejakan dan Amaran Ketinggalan Pengguna”, boleh dibaca sepenuhnya secara percuma di web ini. Selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan interaktif dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Kursus Asas Apache Kafka & Pemprosesan Aliran merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Penjejakan dan Amaran Ketinggalan Pengguna”?

Pelajari maksud ketinggalan pengguna, cara mengukurnya menggunakan alat terbina dalam dan cara menetapkan amaran sebelum pengguna ketinggalan dengan berbahaya. Anda berlatih Asas Apache Kafka & Pemprosesan Aliran menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan Asas Apache Kafka & Pemprosesan Aliran?

Tiada pengalaman terdahulu diperlukan. Pembelajaran Asas Apache Kafka & Pemprosesan Aliran di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 4 daripada 4.

Berapa lamakah pelajaran “Penjejakan dan Amaran Ketinggalan Pengguna” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran Asas Apache Kafka & Pemprosesan Aliran ini?

Ya. Setiap pelajaran Asas Apache Kafka & Pemprosesan Aliran menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

  1. Alat Baris Perintah untuk Kafka
  2. Memantau Kafka dengan JMX dan Alat
  3. Keselamatan: Pengesahan dan Pemberian Kuasa
  4. Penjejakan dan Amaran Ketinggalan Pengguna
← Kembali ke Asas Apache Kafka & Pemprosesan Aliran