Concetto del token bucket
Limitare la frequenza delle richieste
Concetto del token bucket è una lezione Go Academy gratuita su CoddyKit. Questa è la lezione 1 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento Go Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso Go Academy include 4 lezioni in totale.
Perché limitare la frequenza
La limitazione della frequenza stabilisce quante operazioni possono essere eseguite per unità di tempo. Protegge le API dagli abusi, consente di rispettare le quote dei servizi di terze parti e mantiene stabili i sistemi sotto carico.
- Previene il sovraccarico
- Garantisce un utilizzo equo
- Rispetta i limiti dei servizi a monte
Il modello token bucket
Immagini un secchio che contiene token. Ogni richiesta deve prelevare un token per poter procedere. I token vengono reintegrati a una velocità costante. Se il secchio è vuoto, la richiesta attende oppure viene rifiutata.
Rate e burst
Due parametri definiscono un token bucket: il rate (token aggiunti al secondo) e il burst (capacità del secchio). Il burst consente brevi picchi superiori al rate costante.
Reintegro nel tempo
Se il rate è di 5 token al secondo, compare circa un token ogni 200 millisecondi. Il secchio non contiene mai più token della propria capacità di burst, quindi la capacità inutilizzata non si accumula per sempre.
Consentire i burst
Un burst pari a 10 significa che, se il secchio è pieno, possono essere eseguite immediatamente fino a 10 richieste. Dopodiché, le richieste vengono distribuite secondo il rate costante. In questo modo si bilanciano reattività e controllo.
Un semplice controllo basato sul tempo
È possibile approssimare la limitazione della frequenza con un ticker che concede l'autorizzazione a intervalli fissi. Ogni richiesta attende il tick successivo.
ticker := time.NewTicker(200 * time.Millisecond)
defer ticker.Stop()
for i := 0; i < 3; i++ {
<-ticker.C
fmt.Println("request", i)
}Token bucket e leaky bucket
Un leaky bucket si svuota a una velocità costante e uniforma completamente l'output, impedendo i burst. Un token bucket consente burst fino alla propria capacità. Il token bucket è più comune per i limiti delle API.
Una simulazione minimale del bucket
Questo esempio eseguibile simula un token bucket con capacità 3, rifornito ogni 100 ms, e mostra quali richieste vengono consentite.
package main
import (
"fmt"
"time"
)
func main() {
tokens := 3
last := time.Now()
rate := 100 * time.Millisecond
for i := 0; i < 6; i++ {
elapsed := time.Since(last)
refill := int(elapsed / rate)
if refill > 0 {
tokens += refill
if tokens > 3 {
tokens = 3
}
last = time.Now()
}
if tokens > 0 {
tokens--
fmt.Println("request", i, "allowed")
} else {
fmt.Println("request", i, "rejected")
}
time.Sleep(40 * time.Millisecond)
}
}Allow, Wait o Reserve
I limiter offrono generalmente tre comportamenti: Allow restituisce immediatamente true o false, Wait si blocca finché non è disponibile un token e Reserve indica quanto tempo bisogna attendere. Scelga in base alla possibilità di bloccarsi.
Dove applicare i limiti
I limiti di frequenza possono essere per client, per endpoint o globali. Una mappa di limiter indicizzata dall'indirizzo IP del client impone quote per client, mentre un singolo limiter condiviso limita il throughput totale.
Scegliere i parametri
Imposti il rate in base alla quota del servizio a valle. Se un'API consente 600 richieste al minuto, imposti il rate su 10 al secondo. Imposti il burst in modo da assorbire i picchi previsti senza superare la media.
Verifica rapida
Verifichi la Sua comprensione del token bucket.
Riepilogo
Ha imparato il concetto di token bucket:
- I token vengono consumati per ogni richiesta e reintegrati a un determinato rate
- Il burst è la capacità del secchio per gestire i picchi
- Il token bucket consente i burst, mentre il leaky bucket no
- Allow, Wait e Reserve sono le API più comuni
Domande Frequenti
La lezione «Concetto del token bucket» è gratuita?
Sì — il testo completo di «Concetto del token bucket» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso Go Academy, passa a CoddyKit PRO. Il corso Go Academy include 4 lezioni in totale.
Cosa imparerò in «Concetto del token bucket»?
Limitare la frequenza delle richieste Eserciti Go Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare Go Academy?
Non è richiesta alcuna esperienza precedente. Go Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 1 di 4.
Quanto tempo richiede la lezione «Concetto del token bucket»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione Go Academy?
Sì. Ogni lezione Go Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Concetto del token bucket
- golang.org/x/time/rate
- Limitare le goroutine
- Backoff e retry