选择每个线程块的线程数
使用 128 和 256 等合理的默认值
选择每个线程块的线程数 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。
一个实际的选择
启动内核时,必须选择使用多少每个区块的线程数。这个看似很小的选择会真正影响性能。🎚️
32 的倍数
GPU 以 32 个线程为一组运行线程,这些组称为线程束,因此应始终选择 32 的倍数。不规则的大小会在线程束不完整时浪费部分通道。
安全的默认值
较好的初始选择是每个区块使用 128 或 256 个线程。它们都是 32 的倍数,并且几乎适用于所有 GPU。
int threadsPerBlock = 256;严格的上限
在当前的 GPU 上,一个区块最多可以容纳 1024 个线程。如果请求更多线程,启动会直接因错误而失败。
线程太少
像 32 这样非常小的区块可能导致 GPU 利用不足。此时调度器可用于隐藏内存延迟的线程束更少。
线程太多
过大的区块可能耗尽寄存器或共享内存,因此每个多处理器能够容纳的区块会减少。更大并不总是更好。
计算区块数量
确定每个区块的线程数后,应向上取整计算区块数量,以确保覆盖每个元素,即使总数无法整除。
int blocks = (n + threadsPerBlock - 1) / threadsPerBlock;始终添加边界检查
向上取整意味着会多出一些线程。请在内核中加入 if 判断,避免它们访问数组末尾之外的内存。
if (i < n) out[i] = a[i] + b[i];让 CUDA 建议大小
您可以使用占用率辅助工具,让 CUDA 自动建议合适的区块大小,然后以它的建议为基础进行调整。
cudaOccupancyMaxPotentialBlockSize(&grid, &block, kernel);测量,而不是猜测
真正最佳的大小取决于您的内核和 GPU。从 256 开始,然后对几个数值进行基准测试,保留最快的那个。
实用规则
对于大多数初学者内核,使用 256 个每个区块的线程数,并将区块数量向上取整,是可靠且快速的起点。
快速检查
请选择最合理的每个区块线程数。
回顾:确定区块大小
您学习了如何确定区块大小:使用 32 的倍数,默认选择 256,不超过 1024,向上取整区块数量,并进行基准测试。🏁
用 AI 导师学习 C++ — 免费
在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「选择每个线程块的线程数」课时是免费的吗?
是的 — 「选择每个线程块的线程数」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。
「选择每个线程块的线程数」这节课中我会学到什么?
使用 128 和 256 等合理的默认值 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 CUDA Academy 需要有经验吗?
无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。
「选择每个线程块的线程数」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 CUDA Academy 课中编写并运行代码吗?
能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 线程层次结构
- threadIdx、blockIdx、blockDim
- 为什么需要线程块
- 选择每个线程块的线程数