AI Agents · 课时

带指数退避的重试

Q: 「带指数退避的重试」这节课中我会学到什么？

使用 tenacity 通过指数递增的延迟和抖动来重试暂时性故障。 你通过在浏览器中直接运行的动手代码来练习 AI Agents，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

使用 tenacity 通过指数递增的延迟和抖动来重试暂时性故障。

带指数退避的重试 是 CoddyKit 上的免费 AI Agents 课时。这是第 2 节课，共 4 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 AI Agents 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。

为什么要重试

外部调用（LLM、搜索 API、向量数据库）可能会暂时失败。简单的重试可以从大多数瞬时故障中恢复，而无需打扰用户。

不要这样做

不要在紧密循环中立即重试——这会不断冲击服务，速率限制器最终会将您拒之门外：

# BAD
for _ in range(10):
    try:
        return call_api()
    except Exception:
        pass

指数退避

每次失败后等待更长时间。使用 2 的指数是惯例：

import time

def call_with_backoff(fn, attempts=5):
    for i in range(attempts):
        try:
            return fn()
        except TransientError:
            if i == attempts - 1:
                raise
            time.sleep(2 ** i)   # 1, 2, 4, 8, 16 seconds

添加抖动

没有抖动时，许多客户端的重试会同时发生，从而形成惊群流量。请添加随机偏移量：

import random
sleep = (2 ** i) + random.uniform(0, 1)
time.sleep(sleep)

使用 Tenacity

tenacity 库会为您实现这些功能：

from tenacity import retry, wait_exponential_jitter, stop_after_attempt, retry_if_exception_type
import requests

@retry(
    wait=wait_exponential_jitter(initial=1, max=30),
    stop=stop_after_attempt(5),
    retry=retry_if_exception_type((requests.Timeout, requests.ConnectionError))
)
def search(query):
    return requests.get('https://api.tavily.com/search', timeout=10).json()

仅重试瞬时错误

绝不要对以下情况进行重试：

4xx 错误（请求错误——重试无法解决问题）
身份验证失败
验证错误

以下情况可以重试：

超时
5xx 服务器错误
速率限制（使用更长的等待时间）

考虑速率限制的重试

遵守 Retry-After 标头：

if response.status_code == 429:
    wait = int(response.headers.get('Retry-After', 5))
    time.sleep(wait)
    continue

限制总重试时间

限制重试总体上可以持续的时间——面向用户的调用通常为 30-60 秒：

from tenacity import stop_after_delay

@retry(
    wait=wait_exponential_jitter(initial=1, max=10),
    stop=stop_after_delay(60)
)
def call_api():
    ...

幂等标头

对于非幂等 API（Stripe 等），每次重试都要包含幂等键，以便合并重复操作：

headers = {'Idempotency-Key': f'agent-call-{run_id}-{tool_id}'}

也要重试 LLM 调用

OpenAI 和 Anthropic SDK 会自动重试 1-2 次。您可以进行配置：

client = OpenAI(max_retries=5, timeout=30.0)

异步重试

对于异步代码：

from tenacity import AsyncRetrying

async for attempt in AsyncRetrying(wait=wait_exponential_jitter(), stop=stop_after_attempt(5)):
    with attempt:
        result = await call_api()

记录重试日志

每次重试都应记录：尝试次数、休眠时长和错误原因。否则，调试“为什么这么慢？”将是不可能的。

重试与超时

为每次尝试设置较短的超时（例如 10 秒），并通过 stop_after_delay 设置总上限（例如 60 秒）。如果两者缺一不可，一个卡住的连接可能会永远挂起。

为什么要添加抖动

为什么要在重试延迟中添加随机抖动？

回顾

指数退避 + 抖动 + 有上限的总时间 + 仅对瞬时错误重试。使用 tenacity，跳过这些样板代码。

常见问题解答

「带指数退避的重试」课时是免费的吗？

是的 — 「带指数退避的重试」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 AI Agents 课程的其余内容，请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。

「带指数退避的重试」这节课中我会学到什么？

使用 tenacity 通过指数递增的延迟和抖动来重试暂时性故障。你通过在浏览器中直接运行的动手代码来练习 AI Agents，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 AI Agents 需要有经验吗？

无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 2 节课，共 4 节。

「带指数退避的重试」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 AI Agents 课中编写并运行代码吗？

能。每节 AI Agents 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 AI Agents