Nsight Systems 中的时间线视图
查看间隙、复制操作与重叠执行
Nsight Systems 中的时间线视图 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 1 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。
认识 Nsight Systems
Nsight Systems 是您的全局视角分析器。它会显示程序的完整时间线,让您找出 GPU 处于空闲状态的位置。🔭
为什么需要时间线
时间线会将每个操作沿时间轴排列。您可以立即看到每项操作何时运行、各自耗时多久,并进行并排比较。
捕获跟踪记录
您可以在命令行中使用 nsys 记录一次运行。它会将 GPU 和 CPU 的活动捕获到一份报告中,供您稍后打开。
nsys profile -o report ./my_cuda_app您看到的各行
每一行都代表一类活动流:CPU 线程、CUDA API 调用、内核和内存复制。将它们结合起来阅读,就能了解完整过程。
发现空档
GPU 行中的空白区域就是一个空档:这段时间 GPU 没有执行任何操作。空档是表明某些内容正在等待的最大线索。⏳
复制与内核
在时间线上,内存复制和内核位于不同的轨道上。如果复制操作占主导地位,那么数据移动才是真正的成本。
查看重叠
当复制操作和内核同时运行时,它们的条形会在不同流上重叠。重叠是好事:这说明 GPU 始终在忙碌。
放大查看真相
全局视图会隐藏细节,因此您需要对缓慢区域放大查看。近距离观察时,您可以精确测量一个内核或一次复制操作。
悬停查看数值
将鼠标悬停在任意条形上,就会显示其确切的持续时间和名称。这会将模糊的缓慢感觉转化为可以据此采取行动的确切数值。
CPU 停顿同样有害
有时 GPU 在等待,是因为 CPU 正忙于准备工作。时间线同样能够清楚地显示这些主机端停顿。
系统级分析,而非逐内核分析
Nsight Systems 可以回答整个应用的时间都花在了哪里。如果需要深入了解单个内核的细节,您应切换到其他工具。
快速检查
您在 GPU 行上看到了一段很长的空白区域。
总结
Nsight Systems 为您提供时间线:空档、复制、内核和重叠一目了然。从这里开始,找出时间真正花在哪里。👏
常见问题解答
「Nsight Systems 中的时间线视图」课时是免费的吗?
是的 — 「Nsight Systems 中的时间线视图」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。
「Nsight Systems 中的时间线视图」这节课中我会学到什么?
查看间隙、复制操作与重叠执行 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 CUDA Academy 需要有经验吗?
无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 1 节课,共 4 节。
「Nsight Systems 中的时间线视图」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 CUDA Academy 课中编写并运行代码吗?
能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- Nsight Systems 中的时间线视图
- Nsight Compute 中的内核指标
- 计算受限与内存受限
- 使用 NVTX 注释代码