使用 cudaMemPrefetchAsync 预取
在页面需要使用前移动它们
使用 cudaMemPrefetchAsync 预取 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 3 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。
停止为页面错误付费
您不必等待缓慢的首次访问页面错误，而是可以提前移动页面。cudaMemPrefetchAsync 会在内核需要托管数据之前，将其发送到设备。
基本调用
您需要指定指针、字节数和目标设备。这次预取会在开始执行时一次性高效地迁移整个范围。
cudaMemPrefetchAsync(data, n * sizeof(float), 0);选择目标设备
第三个参数是设备 ID。传入 GPU 编号，即可将数据预先放到该 GPU 上，为即将启动的内核做好准备。
int dev = 0;
cudaMemPrefetchAsync(data, bytes, dev);预取回 CPU
使用特殊的 ID cudaCpuDeviceId 将结果取回主机。在 CPU 代码读取结果之前执行此操作，可以避免大量缺页错误。
cudaMemPrefetchAsync(data, bytes, cudaCpuDeviceId);它是异步的
名称中的 Async 确实表示异步：调用会立即返回，并在流中运行。页面在后台迁移时，您的 CPU 可以继续工作。
与计算重叠
由于预取在流中运行，因此可以与其他内核重叠执行。在当前数据块仍在处理时，预先准备下一个数据块。
cudaMemPrefetchAsync(next, bytes, dev, stream);一次移动胜过多次缺页
一次批量预取的代价远低于数千次微小的缺页错误。这样可以用一次连续的高带宽传输，替代分散的开销。
预取正确的范围
只预取内核实际访问的数据。预取一个内核几乎不会读取的巨大缓冲区，只会浪费带宽和 GPU 内存。
双向模式
一个清晰的节奏就此形成：预取到 GPU、启动内核、再将结果预取回来。这样可以让两端的迁移都不在关键路径上。
测量，不要猜测
添加预取后，检查 Nsight，确认缺页错误是否减少、时间线是否更加紧凑。请让性能分析验证效果，而不要依赖直觉。
便捷与控制兼得
预取保留了统一内存单指针的便利，同时让您重新掌控时机。两种方式的优点您都可以获得。
快速检查
让我们确认一下预取能为您带来什么。
回顾：预取
您学会了使用 cudaMemPrefetchAsync 提前准备页面，并选择 GPU 或 cudaCpuDeviceId 作为目标。它可以在流中与其他操作重叠，并且优于发生缺页错误。做得很好！✨
常见问题解答
「使用 cudaMemPrefetchAsync 预取」课时是免费的吗？
是的 — 「使用 cudaMemPrefetchAsync 预取」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 CUDA Academy 课程的其余内容，请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。
「使用 cudaMemPrefetchAsync 预取」这节课中我会学到什么？
在页面需要使用前移动它们 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 CUDA Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 3 节课，共 4 节。
「使用 cudaMemPrefetchAsync 预取」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 CUDA Academy 课中编写并运行代码吗？
能。每节 CUDA Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 一个指针，两端通用
- 按需迁移页面
- 使用 cudaMemPrefetchAsync 预取
- 通过 cudaMemAdvise 提供提示