令牌桶概念
限制请求速率
令牌桶概念 是 CoddyKit 上的免费 Go Academy 课时。 这是第 1 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 Go Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 Go Academy 课程共包含 4 节课。
为什么需要限速(Limit)
限速会限制单位时间内可以执行的操作数量。它可以保护 API 免受滥用,遵守第三方配额,并让系统在负载下保持稳定。
- 防止过载
- 确保公平使用
- 遵守上游限制
令牌桶模型
请想象一个可以存放令牌的桶。每个请求都必须取出一个令牌才能继续。令牌会以稳定的速率补充。如果桶为空,请求就会等待或被拒绝。
速率与突发容量
令牌桶由两个参数定义:速率(每秒添加的令牌数)和突发容量(桶的容量)。突发容量允许短时间内的请求量超过稳定速率。
随时间补充
如果速率为每秒 5 个令牌,那么大约每 200 毫秒会出现一个令牌。桶中令牌数不会超过其突发容量,因此未使用的容量不会无限累积。
允许突发请求
突发容量为 10 表示,如果桶已满,最多可以立即处理 10 个请求。After(此后),请求会按照稳定速率逐个处理。这样可以在响应速度与控制能力之间取得平衡。
简单的基于时间的检查
您可以使用每隔固定时间释放一次许可的计时器来近似实现限速。每个请求都要等待下一次计时。
ticker := time.NewTicker(200 * time.Millisecond)
defer ticker.Stop()
for i := 0; i < 3; i++ {
<-ticker.C
fmt.Println("request", i)
}令牌桶与漏桶
漏桶会以恒定速率排出数据,从而完全平滑输出,并禁止突发请求。令牌桶允许容量范围内的突发请求。API 限制中更常使用令牌桶。
最小令牌桶模拟
此可运行示例模拟一个容量为 3、每 100 毫秒补充一次的令牌桶,并显示哪些请求获得了许可。
package main
import (
"fmt"
"time"
)
func main() {
tokens := 3
last := time.Now()
rate := 100 * time.Millisecond
for i := 0; i < 6; i++ {
elapsed := time.Since(last)
refill := int(elapsed / rate)
if refill > 0 {
tokens += refill
if tokens > 3 {
tokens = 3
}
last = time.Now()
}
if tokens > 0 {
tokens--
fmt.Println("request", i, "allowed")
} else {
fmt.Println("request", i, "rejected")
}
time.Sleep(40 * time.Millisecond)
}
}Allow、Wait 与 Reserve
限速器通常提供三种行为:Allow 立即返回真或假,Wait 会阻塞,直到有令牌可用,而 Reserve 会告诉您需要等待多长时间。请根据是否可以阻塞来选择。
限速规则作用在哪里
限速可以按客户端、按端点或全局应用。以客户端 IP 为键的限速器映射可以实施每个客户端的配额,而单个共享限速器可以限制总体吞吐量。
选择参数
请让速率与下游配额相匹配。如果某个 API 每分钟允许 600 个请求,就将速率设置为每秒 10 个。请将突发容量设置为能够吸收预期峰值,同时不超过平均速率。
快速检查
请测试您对令牌桶的理解。
回顾
您已了解令牌桶概念:
- 每个请求都会消耗令牌,令牌会按一定速率补充
- 突发容量是桶用于应对峰值的容量
- 令牌桶允许突发请求,而漏桶不允许
- Allow、Wait 和 Reserve 是常见的 API
常见问题解答
「令牌桶概念」课时是免费的吗?
是的 — 「令牌桶概念」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 Go Academy 课程的其余内容,请升级到 CoddyKit PRO。 Go Academy 课程共包含 4 节课。
「令牌桶概念」这节课中我会学到什么?
限制请求速率 你通过在浏览器中直接运行的动手代码来练习 Go Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 Go Academy 需要有经验吗?
无需任何先前经验。CoddyKit 上的 Go Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 1 节课,共 4 节。
「令牌桶概念」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 Go Academy 课中编写并运行代码吗?
能。每节 Go Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。