0Pricing
CUDA Academy · 课时

分析、优化、交付

用 Nsight 指标完成优化闭环

分析、优化、交付 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。

测量,不要猜测

优化应从数据开始,而不是凭直觉。请始终先进行性能分析,了解时间究竟花在哪里,然后再修改任何一行代码。🔍

从时间线开始

打开Nsight 系统查看完整运行过程:内核、复制操作以及间隙。时间线可以显示传输和计算是否确实发生了重叠。

找出热点内核

通常有一个阶段占据主要时间。时间线会显示运行时间最长的内核,这正是您应该首先投入调优工作的地方。

使用 Nsight 计算深入查看

对于热点内核,请切换到Nsight 计算。它会报告每个内核的指标,例如内存吞吐量、停顿时间和实际达到的占用率。

阅读屋顶线

屋顶线模型会告诉您某个内核是受内存限制还是受计算限制。这个答案将决定哪些优化值得尝试。

修复受内存限制的内核

如果受内存限制,请重点优化合并访问、共享内存分块和向量化加载。更快地供给数据是提升速度的唯一途径。

修复受计算限制的内核

如果受计算限制,请通过循环展开提高ILP,减少冗余数学运算,或改用较低精度。此时,算术单元才是瓶颈。

使用 NVTX 标记代码

用NVTX范围包围流水线阶段,让时间线显示带名称的条,而不是匿名内核。易读的性能分析结果能更快发现问题。

nvtxRangePush("blur");
blurKernel<<<grid, block>>>(d_in, d_out);
nvtxRangePop();

一次只改动一项

应用一项优化,然后重新进行性能分析。这个紧密的循环可以证明每次改动确实有所帮助,并避免您同时追踪两个影响。

知道何时停止

当内核接近屋顶线限制时,继续调优的收益会很小。请识别边际收益递减的情况,把时间花在下一个瓶颈上。

验证后发布

发布前,请对照参考结果确认正确性,并检查加速效果是否稳定。速度很快但结果错误的流水线无法交付。🚢

快速检查

Nsight 计算显示您的热点内核受内存限制。您应该首先尝试哪项修复?

回顾

您学会了使用 Nsight 进行性能分析,阅读屋顶线模型来分类内核,一次应用一项有针对性的修复,并在发布快速且正确的流水线前进行验证。🏁

常见问题解答

「分析、优化、交付」课时是免费的吗?

是的 — 「分析、优化、交付」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。

「分析、优化、交付」这节课中我会学到什么?

用 Nsight 指标完成优化闭环 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 CUDA Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。

「分析、优化、交付」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 CUDA Academy 课中编写并运行代码吗?

能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 设计处理流水线
  2. 将过滤器融合到一个内核中
  3. 为大图像流式处理分块
  4. 分析、优化、交付
← 返回 CUDA Academy