0Pricing
API Rate Limiting & Scalability Patterns · Pelajaran

Memilih Algoritme Pembatas Laju yang Tepat

Bandingkan algoritme inti pembatas laju — jendela tetap, jendela geser, ember token, dan ember bocor — lalu pelajari kapan masing-masing sesuai dengan profil lalu lintas dan sasaran keadilan Anda.

Memilih Algoritme Pembatas Laju yang Tepat adalah pelajaran API Rate Limiting & Scalability Patterns gratis di CoddyKit. Ini adalah pelajaran 4 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar API Rate Limiting & Scalability Patterns, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus API Rate Limiting & Scalability Patterns mencakup 4 pelajaran total.

Bagian dari pelajaran ini belum diterjemahkan dan ditampilkan dalam bahasa Inggris.

Why the Algorithm Matters

A rate limit policy is only as good as the algorithm that enforces it. The same limit of 100 requests/minute behaves very differently depending on how you count.

In this lesson we compare four classic approaches and learn how to pick one based on your fairness, burst, and accuracy needs.

Fixed Window Counter

The simplest approach: count requests in a fixed time window (for example each calendar minute) and reset the counter at the boundary.

  • Pros: trivial to implement, low memory
  • Cons: allows a burst of 2x the limit around the window edge
def allow(counter, limit):
    if counter['count'] >= limit:
        return False
    counter['count'] += 1
    return True

The Boundary Burst Problem

With a fixed window, a client can send limit requests at 00:59 and another limit at 01:00. That is double the intended rate in a one-second span.

Sliding window algorithms exist to smooth out exactly this spike.

Sliding Window Log

Store a timestamp for every request. To decide, drop timestamps older than the window and count what remains.

  • Pros: exact, no boundary burst
  • Cons: memory grows with request volume
def allow(log, now, window, limit):
    cutoff = now - window
    log[:] = [t for t in log if t > cutoff]
    if len(log) >= limit:
        return False
    log.append(now)
    return True

Sliding Window Counter

A hybrid: keep the current and previous fixed-window counts, then estimate the rate using a weighted overlap.

It approximates the sliding log with far less memory, which is why API gateways and CDNs favor it.

weighted = prev_count * overlap + curr_count
allowed = weighted < limit

Token Bucket

A bucket holds tokens up to a capacity. Tokens refill at a steady rate; each request spends one token. Empty bucket means reject.

  • Allows controlled bursts up to the bucket capacity
  • Smooths the long-term average to the refill rate
def allow(bucket, now, rate, capacity):
    elapsed = now - bucket['ts']
    bucket['tokens'] = min(capacity, bucket['tokens'] + elapsed * rate)
    bucket['ts'] = now
    if bucket['tokens'] < 1:
        return False
    bucket['tokens'] -= 1
    return True

Leaky Bucket

Requests enter a queue that leaks at a constant rate. If the queue overflows, requests are dropped.

Unlike the token bucket, the leaky bucket enforces a steady output rate — ideal when a downstream service cannot handle spikes.

Token vs. Leaky Bucket

  • Token bucket lets traffic burst up to capacity, then throttles — good for user-facing APIs that should feel responsive.
  • Leaky bucket forces a smooth, constant flow — good for protecting fragile backends.

Memory and Accuracy Trade-offs

Pick based on constraints:

  • Lowest memory: fixed window
  • Highest accuracy: sliding window log
  • Best balance: sliding window counter
  • Burst-friendly: token bucket

Distributed Considerations

Across many servers, each node cannot keep its own counter or you multiply the real limit. Use a shared store like Redis with atomic operations so the count is global.

Token bucket and sliding window counter both map cleanly to Redis primitives.

-- Redis atomic counter with expiry
INCR rate:user:42
EXPIRE rate:user:42 60

A Decision Checklist

Ask:

  • Do I need to allow short bursts? → token bucket
  • Must downstream see a steady rate? → leaky bucket
  • Is exactness critical for billing? → sliding window log
  • Do I want simple and cheap? → fixed or sliding window counter

Quick Check

Test your understanding of algorithm selection.

Recap

You compared four rate limiting algorithms:

  • Fixed window — cheap but allows edge bursts
  • Sliding window — accurate, smooths boundaries
  • Token bucket — burst-friendly, averages out
  • Leaky bucket — constant output rate

Choose based on burst tolerance, accuracy, and memory budget.

Pertanyaan yang Sering Diajukan

Apakah pelajaran “Memilih Algoritme Pembatas Laju yang Tepat” gratis?

Ya — teks lengkap “Memilih Algoritme Pembatas Laju yang Tepat” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus API Rate Limiting & Scalability Patterns, upgrade ke CoddyKit PRO. Kursus API Rate Limiting & Scalability Patterns mencakup 4 pelajaran total.

Apa yang akan aku pelajari di “Memilih Algoritme Pembatas Laju yang Tepat”?

Bandingkan algoritme inti pembatas laju — jendela tetap, jendela geser, ember token, dan ember bocor — lalu pelajari kapan masing-masing sesuai dengan profil lalu lintas dan sasaran keadilan Anda. Kamu berlatih API Rate Limiting & Scalability Patterns dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.

Apakah aku perlu pengalaman untuk memulai API Rate Limiting & Scalability Patterns?

Tidak diperlukan pengalaman sebelumnya. API Rate Limiting & Scalability Patterns di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 4 dari 4.

Berapa lama pelajaran “Memilih Algoritme Pembatas Laju yang Tepat” memakan waktu?

Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.

Bisakah aku menulis dan menjalankan kode dalam pelajaran API Rate Limiting & Scalability Patterns ini?

Ya. Setiap pelajaran API Rate Limiting & Scalability Patterns menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.

Semua pelajaran dalam kursus ini

  1. Penjelasan Throttling dan Pembatasan Laju
  2. Kebijakan Lonjakan dan Masa Tenggang
  3. Batas di Sisi Klien dan Sisi Server
  4. Memilih Algoritme Pembatas Laju yang Tepat
← Kembali ke API Rate Limiting & Scalability Patterns