分析、优化、交付
用 Nsight 指标完成优化闭环
分析、优化、交付 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。
测量,不要猜测
优化应从数据开始,而不是凭直觉。请始终先进行性能分析,了解时间究竟花在哪里,然后再修改任何一行代码。🔍
从时间线开始
打开Nsight 系统查看完整运行过程:内核、复制操作以及间隙。时间线可以显示传输和计算是否确实发生了重叠。
找出热点内核
通常有一个阶段占据主要时间。时间线会显示运行时间最长的内核,这正是您应该首先投入调优工作的地方。
使用 Nsight 计算深入查看
对于热点内核,请切换到Nsight 计算。它会报告每个内核的指标,例如内存吞吐量、停顿时间和实际达到的占用率。
阅读屋顶线
屋顶线模型会告诉您某个内核是受内存限制还是受计算限制。这个答案将决定哪些优化值得尝试。
修复受内存限制的内核
如果受内存限制,请重点优化合并访问、共享内存分块和向量化加载。更快地供给数据是提升速度的唯一途径。
修复受计算限制的内核
如果受计算限制,请通过循环展开提高ILP,减少冗余数学运算,或改用较低精度。此时,算术单元才是瓶颈。
使用 NVTX 标记代码
用NVTX范围包围流水线阶段,让时间线显示带名称的条,而不是匿名内核。易读的性能分析结果能更快发现问题。
nvtxRangePush("blur");
blurKernel<<<grid, block>>>(d_in, d_out);
nvtxRangePop();一次只改动一项
应用一项优化,然后重新进行性能分析。这个紧密的循环可以证明每次改动确实有所帮助,并避免您同时追踪两个影响。
知道何时停止
当内核接近屋顶线限制时,继续调优的收益会很小。请识别边际收益递减的情况,把时间花在下一个瓶颈上。
验证后发布
发布前,请对照参考结果确认正确性,并检查加速效果是否稳定。速度很快但结果错误的流水线无法交付。🚢
快速检查
Nsight 计算显示您的热点内核受内存限制。您应该首先尝试哪项修复?
回顾
您学会了使用 Nsight 进行性能分析,阅读屋顶线模型来分类内核,一次应用一项有针对性的修复,并在发布快速且正确的流水线前进行验证。🏁
常见问题解答
「分析、优化、交付」课时是免费的吗?
是的 — 「分析、优化、交付」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。
「分析、优化、交付」这节课中我会学到什么?
用 Nsight 指标完成优化闭环 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 CUDA Academy 需要有经验吗?
无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。
「分析、优化、交付」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 CUDA Academy 课中编写并运行代码吗?
能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 设计处理流水线
- 将过滤器融合到一个内核中
- 为大图像流式处理分块
- 分析、优化、交付