CUDA Academy · 课时

遍历数据块阶段

累加各数据块中的部分和

第 3 / 4 课13 个步骤

遍历数据块阶段 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 3 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。

点积被拆分

完整的一行乘以完整的一列,规模太大,无法由一个分块处理。因此,您需要将这个长和拆分为宽度为 TILE 的多个块,每个阶段对应一个块。

计算阶段数量

如果矩阵宽度为 N、分块宽度为 TILE,那么需要 N / TILE 个阶段才能覆盖整个内维度。

int numPhases = (N + TILE - 1) / TILE;

外层阶段循环

请将加载、同步和计算步骤放入一个遍历阶段的循环中。每次循环都会让分块窗口沿着 A 的行和 B 的列继续移动。

for (int phase = 0; phase < numPhases; ++phase) {
  // load, sync, compute, sync
}

跨阶段累加

局部 sum 变量位于循环外部,因此它会持续累加。每个阶段都会将点积的一部分加入当前总和。

float sum = 0.0f;
for (int phase = 0; phase < numPhases; ++phase) { ... }

每个阶段的分块偏移量

每个阶段都会将从 A 读取的列和从 B 读取的行移动 phase * TILE。这就是窗口向前推进的方式。

As[ty][tx] = A[row*N + phase*TILE + tx];
Bs[ty][tx] = B[(phase*TILE + ty)*N + col];

加载后同步

和之前一样,请在加载完成后调用 __syncthreads(),确保分块完整后再由任何线程对其进行计算。

__syncthreads();

计算当前阶段的部分

内部循环会使用刚加载的分块,将 TILE 个乘积加入 sum。它贡献了最终点积中的一部分。

for (int k = 0; k < TILE; ++k)
  sum += As[ty][k] * Bs[k][tx];

第二次屏障同步

每个阶段结束时都要再次调用 __syncthreads(),这样当较慢的线程仍在读取分块时,就不会有线程覆盖该分块。🚧

__syncthreads(); // before the next phase loads

为什么两次同步都很重要

一个屏障保护加载后的读取,另一个屏障保护读取后的加载。二者共同确保每个线程在各阶段保持同步执行。

写入最终总和

所有阶段完成后,当前的总和就是完整的点积。请在边界检查的保护下,将它写入 C 一次。

if (row < N && col < N)
  C[row*N + col] = sum;

处理不规则大小

当 N 不是 TILE 的整数倍时,请为超出范围的元素加载零,这样额外的乘积就不会对总和产生影响。

快速检查

请思考阶段循环期间,当前总和存放在哪里。

回顾

您遍历了各个阶段,移动分块,执行两次同步,并将部分和累加为一个总和。现在,让我们测量它到底快了多少。📈

免费开始

用 AI 导师学习 C++ — 免费

在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。

课程
30
课程
120

常见问题解答

「遍历数据块阶段」课时是免费的吗?

是的 — 「遍历数据块阶段」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 CUDA Academy 课程的其余内容,请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。

「遍历数据块阶段」这节课中我会学到什么?

累加各数据块中的部分和 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 CUDA Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 3 节课,共 4 节。

「遍历数据块阶段」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 CUDA Academy 课中编写并运行代码吗?

能。每节 CUDA Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 朴素矩阵乘法内核
  2. 为内积分块
  3. 遍历数据块阶段
  4. 测量加速效果
← 返回 CUDA Academy