CUDA Academy · 课时

设备到主机的数据传输

将结果下载回 CPU

第 2 / 4 课13 个步骤

设备到主机的数据传输 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 2 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。

将结果带回主机

您的内核刚刚将结果写入设备缓冲区,但 CPU 无法直接读取 GPU 内存。您必须将结果下载回来。📥

下载方向

要取回数据,请使用 cudaMemcpyDeviceToHost。此时源是设备内存,目标是主机 RAM。

cudaMemcpy(h_c, d_c, bytes, cudaMemcpyDeviceToHost);

目标仍然在前

规则始终不变:先写目标参数,再写源参数。下载时,主机指针位于前面。

cudaMemcpy(h_dst, d_src, bytes, cudaMemcpyDeviceToHost);

主机缓冲区必须存在

目标位置必须有真实的 CPU 内存可供写入。复制回来之前,请使用 malloc 或 new 分配主机存储空间。

float* h_c = (float*)malloc(bytes);

等待内核完成

阻塞式 cudaMemcpy 会等待默认流中的先前工作完成,因此在读取任何结果之前,内核就已经执行完毕。

myKernel<<<blocks, threads>>>(d_c, n);
cudaMemcpy(h_c, d_c, bytes, cudaMemcpyDeviceToHost);

使用相同的字节数

下载的字节数应与上传并计算的字节数完全相同。大小不匹配会导致结果被截断或变成无意义的数据。

size_t bytes = n * sizeof(float);

现在可以读取结果了

复制返回后,这些值就位于普通的 CPU 内存中。您可以像处理任何主机数组一样打印、检查或保存它们。

printf("%f\n", h_c[0]);

完整往返

一次完整的 GPU 任务就是一次往返:上传输入数据、启动内核,然后下载输出结果。每一段都使用 cudaMemcpy。

验证后再信任结果

下载后,请将 GPU 结果与一个快速的 CPU 参考结果进行比较。验证可以在错误扩散之前发现它们。✅

释放已分配的资源

结果传回主机后,请释放两端的资源:使用 cudaFree 释放设备缓冲区,并释放主机缓冲区,以避免内存泄漏。

cudaFree(d_c);
free(h_c);

下载同样需要耗时

返回路径也要经过同一条速度较慢的总线,因此只将主机实际需要的结果复制回来。

快速检查

您的内核已将结果写入设备缓冲区 d_c。如何在 CPU 上读取这些结果?

回顾

您学会了使用 cudaMemcpyDeviceToHost 完成返回:分配主机存储空间,将主机指针放在前面,等待内核完成,然后验证并释放资源。🎉

免费开始

用 AI 导师学习 C++ — 免费

在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。

课程
30
课程
120

常见问题解答

「设备到主机的数据传输」课时是免费的吗?

是的 — 「设备到主机的数据传输」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。

「设备到主机的数据传输」这节课中我会学到什么?

将结果下载回 CPU 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 CUDA Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 2 节课,共 4 节。

「设备到主机的数据传输」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 CUDA Academy 课中编写并运行代码吗?

能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 主机到设备的数据传输
  2. 设备到主机的数据传输
  3. 复制方向枚举
  4. PCIe 传输瓶颈
← 返回 CUDA Academy