Mojo 如何服务于生产环境中的人工智能
端到端的 Modular 工作流
Mojo 如何服务于生产环境中的人工智能 是 CoddyKit 上的免费 Mojo Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 Mojo Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 Mojo Academy 课程共包含 4 节课。
完整流程
让我们串联起整个流程:从 Python 中的想法,到为真实用户提供服务的快速模型。这就是端到端的模块化工作流。🛤️
从 Python 开始
大多数 AI 工作都始于Python,因为研究和原型开发速度快,而且库生态十分庞大。
找到热点路径
在优化之前,您需要进行性能分析,找到热点路径:也就是实际消耗大部分时间的那一小段代码。
用 Mojo 重写
这类瓶颈正是Mojo大显身手的地方。您可以使用类型、fn 和 SIMD 重写热点路径,达到接近原生的速度。
将其封装为算子
如果这部分工作属于模型,您可以将 Mojo 代码封装为自定义算子,让 MAX 图运行它。
优化图
接下来,MAX 会优化整个模型图,融合各项操作,并针对目标硬件安排执行计划。
使用 MAX 提供服务
您可以让 MAX 在端点后方为优化后的模型提供服务,将研究成果转化为应用可以调用的生产服务。
随处部署
得益于 MAX 的可移植性,您可以在 CPU 和 GPU 之间部署同一个模型,而无需针对每个平台重新编写。
测量加速效果
最后,您可以将结果与 Python 基准进行基准测试,确认性能提升确实存在,并且值得付出这些努力。
统一平台
Python、Mojo 和 MAX 并不是彼此独立的世界。它们共同构成了一个覆盖从研究到部署全过程的平台。
您在其中的位置
现在您已经知道应该在何处使用 Mojo:在从原型到交付 AI 的流程中,寻找性能关键点。✨
快速检查
回想一下 Mojo 如何融入端到端的生产 AI 工作流。
回顾
您已经梳理了整个流程:在 Python 中创建原型,用Mojo加速热点路径,然后使用 MAX 进行优化和服务,全程基于一个 Modular 平台。🎯
用 AI 导师学习 Mojo — 免费
在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「Mojo 如何服务于生产环境中的人工智能」课时是免费的吗?
是的 — 「Mojo 如何服务于生产环境中的人工智能」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 Mojo Academy 课程的其余内容,请升级到 CoddyKit PRO。 Mojo Academy 课程共包含 4 节课。
「Mojo 如何服务于生产环境中的人工智能」这节课中我会学到什么?
端到端的 Modular 工作流 你通过在浏览器中直接运行的动手代码来练习 Mojo Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 Mojo Academy 需要有经验吗?
无需任何先前经验。CoddyKit 上的 Mojo Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。
「Mojo 如何服务于生产环境中的人工智能」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 Mojo Academy 课中编写并运行代码吗?
能。每节 Mojo Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- MAX 提供什么
- MAX 图中的 Mojo
- 使用 MAX 提供模型服务
- Mojo 如何服务于生产环境中的人工智能