0Pricing
Go Academy · 课时

令牌桶概念

限制请求速率

令牌桶概念 是 CoddyKit 上的免费 Go Academy 课时。 这是第 1 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 Go Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 Go Academy 课程共包含 4 节课。

为什么需要限速(Limit)

限速会限制单位时间内可以执行的操作数量。它可以保护 API 免受滥用,遵守第三方配额,并让系统在负载下保持稳定。

  • 防止过载
  • 确保公平使用
  • 遵守上游限制

令牌桶模型

请想象一个可以存放令牌的桶。每个请求都必须取出一个令牌才能继续。令牌会以稳定的速率补充。如果桶为空,请求就会等待或被拒绝。

速率与突发容量

令牌桶由两个参数定义:速率(每秒添加的令牌数)和突发容量(桶的容量)。突发容量允许短时间内的请求量超过稳定速率。

随时间补充

如果速率为每秒 5 个令牌,那么大约每 200 毫秒会出现一个令牌。桶中令牌数不会超过其突发容量,因此未使用的容量不会无限累积。

允许突发请求

突发容量为 10 表示,如果桶已满,最多可以立即处理 10 个请求。After(此后),请求会按照稳定速率逐个处理。这样可以在响应速度与控制能力之间取得平衡。

简单的基于时间的检查

您可以使用每隔固定时间释放一次许可的计时器来近似实现限速。每个请求都要等待下一次计时。

ticker := time.NewTicker(200 * time.Millisecond)
defer ticker.Stop()
for i := 0; i < 3; i++ {
    <-ticker.C
    fmt.Println("request", i)
}

令牌桶与漏桶

漏桶会以恒定速率排出数据,从而完全平滑输出,并禁止突发请求。令牌桶允许容量范围内的突发请求。API 限制中更常使用令牌桶。

最小令牌桶模拟

此可运行示例模拟一个容量为 3、每 100 毫秒补充一次的令牌桶,并显示哪些请求获得了许可。

package main

import (
    "fmt"
    "time"
)

func main() {
    tokens := 3
    last := time.Now()
    rate := 100 * time.Millisecond
    for i := 0; i < 6; i++ {
        elapsed := time.Since(last)
        refill := int(elapsed / rate)
        if refill > 0 {
            tokens += refill
            if tokens > 3 {
                tokens = 3
            }
            last = time.Now()
        }
        if tokens > 0 {
            tokens--
            fmt.Println("request", i, "allowed")
        } else {
            fmt.Println("request", i, "rejected")
        }
        time.Sleep(40 * time.Millisecond)
    }
}

Allow、Wait 与 Reserve

限速器通常提供三种行为:Allow 立即返回真或假,Wait 会阻塞,直到有令牌可用,而 Reserve 会告诉您需要等待多长时间。请根据是否可以阻塞来选择。

限速规则作用在哪里

限速可以按客户端、按端点或全局应用。以客户端 IP 为键的限速器映射可以实施每个客户端的配额,而单个共享限速器可以限制总体吞吐量。

选择参数

请让速率与下游配额相匹配。如果某个 API 每分钟允许 600 个请求,就将速率设置为每秒 10 个。请将突发容量设置为能够吸收预期峰值,同时不超过平均速率。

快速检查

请测试您对令牌桶的理解。

回顾

您已了解令牌桶概念:

  • 每个请求都会消耗令牌,令牌会按一定速率补充
  • 突发容量是桶用于应对峰值的容量
  • 令牌桶允许突发请求,而漏桶不允许
  • Allow、Wait 和 Reserve 是常见的 API

常见问题解答

「令牌桶概念」课时是免费的吗?

是的 — 「令牌桶概念」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 Go Academy 课程的其余内容,请升级到 CoddyKit PRO。 Go Academy 课程共包含 4 节课。

「令牌桶概念」这节课中我会学到什么?

限制请求速率 你通过在浏览器中直接运行的动手代码来练习 Go Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 Go Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 Go Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 1 节课,共 4 节。

「令牌桶概念」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 Go Academy 课中编写并运行代码吗?

能。每节 Go Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 令牌桶概念
  2. golang.org/x/time/rate
  3. 限制 Goroutine
  4. 退避与重试
← 返回 Go Academy