0Pricing
CUDA Academy · 课时

线程层次结构

线程组成线程块,线程块组成网格

线程层次结构 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 1 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。

许多线程,共同完成一项任务

CUDA 内核会在许多线程中并行运行,每个线程都在自己的数据片段上执行相同的工作。🧵

线程需要组织结构

启动数百万个彼此松散的线程会造成混乱。CUDA 会将它们组织成清晰的层次结构,以便硬件高效调度。

线程组成线程块

线程会被分组到一个线程块中。同一线程块中的每个线程都运行相同的内核,并且可以与邻近线程紧密协作。

线程块组成网格

一次启动中的所有线程块共同构成网格。因此关系很简单:线程存在于线程块中,线程块存在于网格中。

为什么要分成两层

两层结构让同一个内核既能扩展到小型 GPU,也能扩展到大型 GPU。您只需描述一次工作,网格就会调整规模以适应硬件。

在启动时选择形状

您可以在启动时,使用三重尖括号语法直接选择线程块数量和每个线程块的线程数。

myKernel<<<numBlocks, threadsPerBlock>>>(data);

一个具体示例

假设您启动 4 个线程块,每个线程块包含 256 个线程。这样就有 4 乘以 256,也就是 1024 个线程同时运行。

线程块彼此独立

不同的线程块不能假设执行顺序,也不能直接相互通信。正是这种独立性,让 GPU 能够以任意顺序运行它们。

同一线程块中的线程可以协作

在一个线程块内部,线程可以共享片上快速内存,并彼此同步。这种协作正是线程块的强大之处。

网格和线程块可以是三维的

网格和每个线程块都可以是一维、二维或三维的。dim3 类型让您能够自然地将它们映射到图像或立体数据上。

dim3 block(16, 16);
dim3 grid(32, 32);

一个线程,一个元素

共同目标是让每个线程恰好处理一个数据元素。这种层级结构只是实现这种对应关系的方式。

快速检查

让我们检查一下各个部分是如何嵌套在一起的。

回顾:层级结构

您学习了 CUDA 的层级结构:线程组成区块,区块组成网格。独立的区块可以扩展,而区块内的线程则彼此协作。🎯

常见问题解答

「线程层次结构」课时是免费的吗?

是的 — 「线程层次结构」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。

「线程层次结构」这节课中我会学到什么?

线程组成线程块,线程块组成网格 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 CUDA Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 1 节课,共 4 节。

「线程层次结构」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 CUDA Academy 课中编写并运行代码吗?

能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 线程层次结构
  2. threadIdx、blockIdx、blockDim
  3. 为什么需要线程块
  4. 选择每个线程块的线程数
← 返回 CUDA Academy