重放图以降低开销
将启动成本分摊到多次迭代中
重放图以降低开销 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 4 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。
核心目的：重放
图的存在就是为了被重放。一次启动调用即可将整个记录的操作序列一次性提交给 GPU。
启动执行对象
使用cudaGraphLaunch进行重放，并传入已实例化的执行对象和一个流。这就是完整的提交过程。
cudaGraphLaunch(exec, stream);一次调用，多个内核
与每一步启动十次不同，整个图只需支付一次CPU 启动成本。
循环并重复
在迭代求解器中，您会在每一步调用启动操作。节省的成本会在数千次相同迭代中得到摊销。
for (int i = 0; i < steps; i++)
cudaGraphLaunch(exec, stream);实例化成本只支付一次
昂贵的实例化步骤会在循环前完成，因此循环中的每次重放都能保持较低成本。
更新而不重新构建
如果只有参数发生变化，请使用cudaGraphExecUpdate修补执行对象，而不是从头重新构建。
cudaGraphExecUpdate(exec, newGraph, NULL, &res);加速效果最明显的地方
对于短内核，收益最大：当 GPU 工作时间很短时，启动开销占主导，而图可以消除这部分开销。
更少抖动，更多重叠
将工作批量提交还可以减少CPU 抖动，让 GPU 在时间线上减少空档、保持繁忙。
注意权衡
图假设具有稳定的结构。如果每一步的工作模式都发生变化，重新构建的成本可能超过节省的成本。
释放资源
完成后，请使用cudaGraphExecDestroy和 cudaGraphDestroy 释放这两个对象，以避免资源泄漏。
cudaGraphExecDestroy(exec);
cudaGraphDestroy(graph);捕获、实例化、重放
完整的生命周期分为三个步骤：捕获工作、将其实例化一次，然后重复重放多次。
快速检查
图为什么能减少启动开销？
回顾：重放图
使用cudaGraphLaunch即可通过一次调用触发整个操作序列，并将设置成本摊销到多次迭代中。直接更新，完成后释放。做得好！🏁
用 AI 导师学习 C++ — 免费
在浏览器中编写并运行真实代码，获得全天候 AI 导师的即时帮助，并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「重放图以降低开销」课时是免费的吗？
是的 — 「重放图以降低开销」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 CUDA Academy 课程的其余内容，请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。
「重放图以降低开销」这节课中我会学到什么？
将启动成本分摊到多次迭代中 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 CUDA Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 4 节课，共 4 节。
「重放图以降低开销」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 CUDA Academy 课中编写并运行代码吗？
能。每节 CUDA Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 从内核启动内核
- 动态并行何时值得使用
- 将工作捕获到图中
- 重放图以降低开销