定义服务及其 API
通过具有类型定义的服务端点公开运行器
定义服务及其 API 是 CoddyKit 上的免费 MLOps Academy 课时。 这是第 2 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 MLOps Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 MLOps Academy 课程共包含 4 节课。
什么是 Service
在 BentoML 中，Service 是部署单位。它封装模型，并公开一个或多个客户端可以调用的 API 端点。🛎️
Runner 运行模型
Runner 是 BentoML 针对已保存模型提供的优化封装。它在自己的工作进程中处理推理，从而让 API 保持响应迅速。
runner = bentoml.sklearn.get("iris_clf:latest").to_runner()创建 Service
您可以为服务命名并传入其 Runner 来构建服务。Service 对象就是 BentoML 提供服务并进行扩展的对象。
svc = bentoml.Service("iris_classifier", runners=[runner])添加端点
您可以使用 @svc.api 装饰器将函数公开为 API。该函数会成为一个可调用的 HTTP 路由。
@svc.api(input=..., output=...)
def classify(data):
...声明输入和输出
您可以设置带类型的 IO 描述符，以便 BentoML 进行验证和序列化。NumpyNdarray 会告诉它应接收并返回数组。
from bentoml.io import NumpyNdarray在内部调用 Runner
您可以在 API 函数中通过 Runner 调用模型。使用 run 会将输入发送给模型工作进程并返回结果。
result = runner.predict.run(data)
return result将它放入 service.py
BentoML 按约定在文件中查找您的代码。请将服务放在项目根目录下的 service.py 中。
在本地提供服务
一条命令即可启动开发服务器。bentoml serve 会指向该文件和 svc 对象，然后监视更改。
bentoml serve service:svc --reload对字典使用 JSON
并非每个 API 都处理数组。当客户端发送并期望接收字典时，请将描述符替换为 JSON。
from bentoml.io import JSON内置 Swagger 文档
运行后，BentoML 会在根 URL 提供交互式 Swagger 文档，因此您可以在浏览器中测试每个端点。🎉
使用 curl 调用进行测试
您可以在终端中访问实时端点。快速执行一次 curl POST 请求即可发送示例输入，并查看返回的预测结果。
curl -X POST localhost:3000/classify -d "[[5.1,3.5,1.4,0.2]]"快速检查
您想在 API 函数内部调用模型。应该使用哪种包装器？
回顾
您已将运行器转换为 Service，公开了带类型化 IO 的 @svc.api 端点，将其放入 service.py，并使用内置文档提供服务。实时 API 完成！🙌
用 AI 导师学习 Python — 免费
在浏览器中编写并运行真实代码，获得全天候 AI 导师的即时帮助，并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「定义服务及其 API」课时是免费的吗？
是的 — 「定义服务及其 API」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 MLOps Academy 课程的其余内容，请升级到 CoddyKit PRO。 MLOps Academy 课程共包含 4 节课。
「定义服务及其 API」这节课中我会学到什么？
通过具有类型定义的服务端点公开运行器 你通过在浏览器中直接运行的动手代码来练习 MLOps Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 MLOps Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 MLOps Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 2 节课，共 4 节。
「定义服务及其 API」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 MLOps Academy 课中编写并运行代码吗？
能。每节 MLOps Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 将模型保存到 Bento 存储库
- 定义服务及其 API
- 启用自适应微批处理
- 构建 Bento 并将其容器化