0Pricing
MLOps Academy · 课时

添加 /health 就绪检查

告知编排器您的服务何时准备好提供服务

添加 /health 就绪检查 是 CoddyKit 上的免费 MLOps Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 MLOps Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 MLOps Academy 课程共包含 4 节课。

集群如何知道?

Kubernetes 之类的编排器需要一种方式向服务询问:服务是否存活,是否已准备好接收流量?health 端点可以回答这些问题。🩺

存活状态与就绪状态

存活状态检查进程是否正在运行。就绪状态检查进程是否已经能够实际处理请求。这是两个不同的问题。

简单的健康路由

最简单的检查方式是使用 GET /health 并返回 ok。只要进程能够回应,它至少就是存活的。

@app.get("/health")
def health():
    return {"status": "ok"}

就绪状态需要模型

对于机器学习服务,仅存活还不够。真正的就绪状态检查会确认模型已完成加载,然后才接受预测流量。

检查已加载的模型

您可以检查 app.state,确认模型是否存在。如果它仍为 None,说明服务尚未就绪。

ready = app.state.model is not None

使用 503 表示未就绪

模型尚未加载时,返回 503 状态码,让编排器暂时阻止流量,直到服务就绪。

from fastapi import HTTPException

raise HTTPException(status_code=503)

整合起来

/ready 路由会检查模型,并返回 ready 或引发 503。这个检查应当保持快速,不执行繁重工作。

@app.get("/ready")
def ready(req: Request):
    if req.app.state.model is None:
        raise HTTPException(503)
    return {"ready": True}

连接探针

在 Kubernetes 中,将 readinessProbe 指向 /ready,将 livenessProbe 指向 /health。平台会按计划定期轮询它们。

保持检查轻量

探针运行频繁,因此健康检查必须开销低。不要在其中执行真正的模型推理,也不要访问缓慢的数据库。

平稳实现零停机部署

就绪检查支持滚动更新:只有新 Pod ready 后才会接收流量,因此用户不会访问到尚未完全启动的实例。🚦

为什么这很重要

健康和就绪端点让您的模型服务成为任何集群中的良好成员,从而支持安全扩缩容、重启和部署。✅

快速检查

您的模型仍在加载,此时就绪探针访问了 /ready。端点应该返回什么?

回顾

您将存活状态与就绪状态分开,在模型加载完成前返回 503,并连接探针以实现安全部署。您的服务已准备好加入集群!🙌

常见问题解答

「添加 /health 就绪检查」课时是免费的吗?

是的 — 「添加 /health 就绪检查」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 MLOps Academy 课程的其余内容,请升级到 CoddyKit PRO。 MLOps Academy 课程共包含 4 节课。

「添加 /health 就绪检查」这节课中我会学到什么?

告知编排器您的服务何时准备好提供服务 你通过在浏览器中直接运行的动手代码来练习 MLOps Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 MLOps Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 MLOps Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。

「添加 /health 就绪检查」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 MLOps Academy 课中编写并运行代码吗?

能。每节 MLOps Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 您的第一个 /predict 端点
  2. 使用 Pydantic 验证请求
  3. 在启动时只加载一次模型
  4. 添加 /health 就绪检查
← 返回 MLOps Academy