Mécanismes de l’algorithme du seau à jetons
Explorez l’algorithme du seau à jetons, comprenez sa flexibilité pour autoriser les pics de trafic et découvrez ses cas d’utilisation courants dans les systèmes modernes.
Mécanismes de l’algorithme du seau à jetons est une leçon API Rate Limiting & Scalability Patterns gratuite sur CoddyKit. Ceci est la leçon 3 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage API Rate Limiting & Scalability Patterns, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours API Rate Limiting & Scalability Patterns comprend 4 leçons au total.
Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.
Meet the Token Bucket
Welcome to the Token Bucket algorithm! After exploring fixed windows and leaky buckets, we'll now dive into a flexible approach that’s widely used in modern systems.
The Token Bucket is a rate-limiting algorithm that allows for bursts of traffic while still enforcing an average rate limit.
Tokens in a Virtual Bucket
Imagine a virtual 'bucket' that holds a certain number of 'tokens'. Each token represents permission for one API request.
- When a request arrives, it tries to take a token.
- If a token is available, the request proceeds, and the token is removed.
- If no tokens are available, the request is typically denied or queued.
Filling Up the Bucket
Tokens are continuously added to the bucket at a constant, predefined rate. This rate determines the average number of requests allowed over time.
For example, if tokens are added at 5 tokens per second, your API can sustain an average of 5 requests per second.
The Bucket's Maximum Size
Just like a real bucket, our virtual token bucket has a maximum capacity. This means it can only hold a certain number of tokens at any given time.
- If tokens are generated but the bucket is full, the new tokens are discarded.
- This capacity limits the maximum size of a 'burst' of requests that can be handled.
Requesting a Token
When an API client makes a request, the rate limiter checks the token bucket:
- If tokens are available: One token is consumed, and the request is allowed to proceed.
- If no tokens are available: The request is blocked, rejected (e.g., with HTTP 429 Too Many Requests), or deferred.
The Power of Bursts
The key advantage of the Token Bucket algorithm is its ability to allow bursts. If the bucket has accumulated many tokens (up to its capacity), a sudden rush of requests can be served immediately.
Once the accumulated tokens are used up, the rate limit reverts to the sustained token generation rate.
Token Bucket in Action
Try running this simplified Java example to see how tokens are refilled and consumed. Notice how initial requests can burst, but subsequent requests depend on refills.
public class Main {
// Simple TokenBucket class for demonstration
static class TokenBucket {
private int capacity;
private int tokens;
private int refillRate; // tokens per "tick"
public TokenBucket(int capacity, int refillRate) {
this.capacity = capacity;
this.tokens = capacity; // Start full
this.refillRate = refillRate;
}
public void refill() {
tokens = Math.min(capacity, tokens + refillRate);
System.out.println("Refill. Tokens: " + tokens);
}
public boolean tryConsume(int numTokens) {
if (tokens >= numTokens) {
tokens -= numTokens;
System.out.println("Consume " + numTokens + ". Left: " + tokens);
return true;
}
System.out.println("Fail to consume " + numTokens + ". Left: " + tokens);
return false;
}
public int getTokens() {
return tokens;
}
}
public static void main(String[] args) {
// Bucket: capacity 5, refills 1 token per tick
TokenBucket bucket = new TokenBucket(5, 1);
System.out.println("Start. Tokens: " + bucket.getTokens());
// 1. Initial burst
System.out.println("\n--- Request 1 (cost 3) ---");
bucket.tryConsume(3); // OK: 5 -> 2
// 2. Simulate time passing (refill)
System.out.println("\n--- Tick 1 ---");
bucket.refill(); // 2 -> 3
// 3. Another request
System.out.println("\n--- Request 2 (cost 2) ---");
bucket.tryConsume(2); // OK: 3 -> 1
// 4. Simulate time passing (refill)
System.out.println("\n--- Tick 2 ---");
bucket.refill(); // 1 -> 2
// 5. Try to consume more than available
System.out.println("\n--- Request 3 (cost 3) ---");
bucket.tryConsume(3); // FAIL: 2 tokens available
// 6. Simulate time passing (refill)
System.out.println("\n--- Tick 3 ---");
bucket.refill(); // 2 -> 3
// 7. Try again with enough tokens
System.out.println("\n--- Request 4 (cost 3) ---");
bucket.tryConsume(3); // OK: 3 -> 0
}
}Why Choose Token Bucket?
The Token Bucket algorithm offers several compelling advantages, especially when compared to simpler methods:
- Allows Bursts: It's perfect for APIs that expect occasional spikes in traffic.
- Simple to Implement: The core logic is straightforward to code.
- Smooth Average Rate: While allowing bursts, it still enforces a consistent average request rate over the long term.
- Flexible: You can tune both the refill rate and bucket capacity to suit different use cases.
Common Use Cases
Token Bucket is widely used in various scenarios where controlled burstiness is desirable:
- API Gateways: To protect backend services from sudden traffic surges.
- Network Traffic Shaping: To smooth out data transmission and prevent network congestion.
- Resource Management: Limiting access to shared resources in distributed systems.
- Client-Side Rate Limiting: Implementing rate limits within client SDKs to prevent excessive requests.
Token Bucket Check
Let's test your understanding of the Token Bucket algorithm.
Token Bucket Summary
Great job! In this lesson, you've learned about the Token Bucket algorithm, a powerful rate-limiting method.
- It uses a virtual bucket that accumulates tokens at a fixed rate.
- Requests consume tokens, and if no tokens are available, requests are denied.
- Its main strength is allowing controlled bursts of traffic, up to the bucket's capacity.
This flexibility makes it a popular choice for many real-world API and network applications.
Questions Fréquemment Posées
La leçon « Mécanismes de l’algorithme du seau à jetons » est-elle gratuite ?
Oui — le texte complet de « Mécanismes de l’algorithme du seau à jetons » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours API Rate Limiting & Scalability Patterns, passe à CoddyKit PRO. Le cours API Rate Limiting & Scalability Patterns comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Mécanismes de l’algorithme du seau à jetons » ?
Explorez l’algorithme du seau à jetons, comprenez sa flexibilité pour autoriser les pics de trafic et découvrez ses cas d’utilisation courants dans les systèmes modernes. Tu pratiques API Rate Limiting & Scalability Patterns avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer API Rate Limiting & Scalability Patterns ?
Aucune expérience préalable n'est requise. API Rate Limiting & Scalability Patterns sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 3 sur 4.
Combien de temps prend la leçon « Mécanismes de l’algorithme du seau à jetons » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon API Rate Limiting & Scalability Patterns ?
Oui. Chaque leçon API Rate Limiting & Scalability Patterns inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Explication du compteur à fenêtre fixe
- Approfondissement de l’algorithme du seau percé
- Mécanismes de l’algorithme du seau à jetons
- Choisir le bon algorithme