CUDA Academy · 课时

详解 cudaDeviceSynchronize

了解 CPU 为什么必须等待 GPU

第 4 / 4 课13 个步骤

详解 cudaDeviceSynchronize 是 CoddyKit 上的免费 CUDA Academy 课时。这是第 4 节课，共 4 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 CUDA Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。

CPU 不会等待

启动之后，GPU 仍在工作，而 CPU 已经继续向前执行。要暂停并等待，请调用 cudaDeviceSynchronize。⏳

myKernel<<<g, b>>>(p);
cudaDeviceSynchronize();

同步是什么意思

cudaDeviceSynchronize 会阻塞主机，直到所有已排队的 GPU 任务完成。只有这样，下一行 CPU 代码才会执行。

为什么需要它

如果不同步，您可能会读取 GPU 尚未写入的结果。同步可以保证内核确实已经完成。

刷新 printf 输出

它还会刷新设备端的 printf。如果内核进行了打印却没有任何显示，通常就是因为缺少同步。

hi<<<1, 4>>>();
cudaDeviceSynchronize(); // now you see it

它会返回错误代码

该调用会返回一个 cudaError_t。这里的失败通常可以暴露内核内部发生的崩溃。

cudaError_t e = cudaDeviceSynchronize();

捕获隐藏的内核崩溃

内核可能会静默失败，因此检查同步操作返回的错误代码，是发现越界访问或错误启动配置的方法。

if (e != cudaSuccess) printf("kernel failed\n");

cudaMemcpy 也会同步

普通的 cudaMemcpy 回传主机时也会等待 GPU。在这种常见情况下，您可能不需要单独进行同步。

cudaMemcpy(host, dev, n, cudaMemcpyDeviceToHost);

不要过度同步

每一步之后都调用同步会破坏重叠执行，从而拖慢程序。只有在确实需要读取结果或测量时间时才进行同步。

为计时而同步

要准确测量内核耗时，请在前后都进行同步。否则，计时器测到的只是 CPU 将工作排入队列的速度。

cudaDeviceSynchronize();
// start timer ... kernel ... sync ... stop

流同步的范围更小

如需更精细的控制，可以使用 cudaStreamSynchronize 等待某一个流，而不是等待整个设备。在工作重叠执行时尤其有用。

cudaStreamSynchronize(stream);

安全的初学者习惯

学习期间，请在每次启动后同步并检查结果。代码稳定后，再删除多余的同步以提升速度。

快速检查

检查一下您对同步的理解。

在交互式课程中回答

回顾：同步

cudaDeviceSynchronize 会让 CPU 等待 GPU，刷新 printf，并显示隐藏的崩溃。请明智地使用它，不要到处调用。🎉

免费开始

用 AI 导师学习 C++ — 免费

在浏览器中编写并运行真实代码，获得全天候 AI 导师的即时帮助，并在网页或应用中继续学习。

课程: 30
课程: 120

免费开始学习查看完整课程

常见问题解答

「详解 cudaDeviceSynchronize」课时是免费的吗？

是的 — 「详解 cudaDeviceSynchronize」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 CUDA Academy 课程的其余内容，请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。

「详解 cudaDeviceSynchronize」这节课中我会学到什么？

了解 CPU 为什么必须等待 GPU 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 CUDA Academy 需要有经验吗？

无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 4 节课，共 4 节。

「详解 cudaDeviceSynchronize」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 CUDA Academy 课中编写并运行代码吗？

能。每节 CUDA Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 CUDA Academy