CUDA Academy · 课时

Nsight Compute 中的内核指标

吞吐量、停顿与屋顶线数据

第 2 / 4 课13 个步骤

Nsight Compute 中的内核指标 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 2 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。

深入查看一个内核

Nsight Compute 是用于观察单个内核的显微镜。它会收集深入的硬件指标,让您准确了解内核运行缓慢的原因。🔬

如何启动它

您可以在命令行中使用 ncu 分析内核。它会重复运行内核多次,以收集详细的计数器数据。

ncu -o report ./my_cuda_app

吞吐量指标

首先要读取的是吞吐量:计算单元和内存通道的繁忙程度,以其峰值的百分比表示。

阅读线程束停顿

停顿是指线程束在当前周期无法继续执行。Nsight Compute 会按原因对停顿进行分类,让您知道需要修复什么。

内存停顿

如果大多数停顿都与内存有关,说明您的内核正在等待数据。解决方法是改进访问模式或重复利用数据,而不是增加计算量。

实际占用率

实际占用率显示实际处于活动状态的线程束数量与最大数量的对比。数值较低通常意味着线程束太少,无法隐藏延迟。

屋顶线图

屋顶线图会将您的内核与硬件限制进行比较。数据点所在的位置会告诉您,限制因素是计算还是内存。

引导式分析

Nsight Compute 会给出通俗易懂的建议。它会指出最大的瓶颈,因此您不必一开始就靠猜测。

缓存命中率

L1 和 L2 缓存的计数器会显示读取命中缓存的频率。更高的命中率意味着更少访问速度较慢的全局内存。

比较两个版本

您可以并排比较两份报告。这样就能清楚判断最近的更改是否确实改善了这些指标。

由于会重复运行,所以速度很慢

由于它会重复运行内核,因此分析开销很高。请一次分析一个内核,不要把它当作普通运行来使用。

快速检查

您的内核报告显示,大多数线程束停顿都与内存有关。

总结

Nsight Compute 会揭示单个内核的指标:吞吐量、停顿、占用率和屋顶线图。请用它准确确认需要优化的内容。👏

免费开始

用 AI 导师学习 C++ — 免费

在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。

课程
30
课程
120

常见问题解答

「Nsight Compute 中的内核指标」课时是免费的吗?

是的 — 「Nsight Compute 中的内核指标」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。

「Nsight Compute 中的内核指标」这节课中我会学到什么?

吞吐量、停顿与屋顶线数据 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 CUDA Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 2 节课,共 4 节。

「Nsight Compute 中的内核指标」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 CUDA Academy 课中编写并运行代码吗?

能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. Nsight Systems 中的时间线视图
  2. Nsight Compute 中的内核指标
  3. 计算受限与内存受限
  4. 使用 NVTX 注释代码
← 返回 CUDA Academy