CPU 与 GPU：延迟与吞吐量
了解少量大型核心与数千个微型核心的区别
CPU 与 GPU：延迟与吞吐量 是 CoddyKit 上的免费 CUDA Academy 课时。 这是第 1 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 CUDA Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 CUDA Academy 课程共包含 4 节课。
两种截然不同的芯片
CPU 和 GPU 都能运行代码，但它们的设计目标截然相反。一个争分夺秒地完成单项任务，另一个则一次性处理海量工作。🏎️
延迟：一件事完成得有多快
延迟是从开始到结束完成一项任务所需的时间。当您希望立即得到一个答案时，关注的就是低延迟。
吞吐量：每秒能完成多少工作
吞吐量是每秒总共完成的任务数。即使每项任务稍微慢一些，整体吞吐量仍然可以很高。
CPU 是一台延迟机器
CPU 拥有少量强大的核心、巨大的缓存和各种巧妙的优化，能够尽可能快地将一项任务完成。
GPU 是一台吞吐量机器
GPU 用单项任务的速度换取巨大的处理量：数千个小核心同时处理海量工作。
少量大核心 vs 大量小核心
您可以把 CPU 想象成少数几个强大的工人，把 GPU 想象成一支由数千个普通工人组成的队伍。不同的形态适合不同的工作。
高速公路的类比
跑车的延迟低：单次行程很快。公交车的吞吐量高：每次行程更慢，但每小时运送的人数多得多。🚌
GPU 为什么在控制方面投入更少
CPU 会将晶体管用于缓存和分支预测。GPU 则将晶体管用于原始的算术单元，因此芯片中有更多部分在进行实际计算。
隐藏延迟，而不是避免延迟
GPU 不会让每项任务都变快；它会在等待慢速内存时，立即切换到其他已准备好的工作，以此隐藏等待时间。空闲时间被填满了，而不是消失了。
CPU 仍然占优的情况
对于一次快速决策、分支繁多的逻辑，或无法拆分的任务，低延迟的CPU 仍然是合适的工具。处理量并不是一切。
GPU 开始领先的情况
一旦您需要对数千个项目执行同一操作，GPU 巨大的并行性就能把一项耗时很长的工作变得很快。
快速检查
让我们明确这两种芯片之间的核心取舍。
回顾：延迟 vs 吞吐量
CPU 使用少量大核心来实现低延迟；GPU 使用数千个小核心来实现高吞吐量。请选择与您的工作形态相匹配的芯片。👍
用 AI 导师学习 C++ — 免费
在浏览器中编写并运行真实代码，获得全天候 AI 导师的即时帮助，并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「CPU 与 GPU：延迟与吞吐量」课时是免费的吗？
是的 — 「CPU 与 GPU：延迟与吞吐量」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 CUDA Academy 课程的其余内容，请升级到 CoddyKit PRO。 CUDA Academy 课程共包含 4 节课。
「CPU 与 GPU：延迟与吞吐量」这节课中我会学到什么？
了解少量大型核心与数千个微型核心的区别 你通过在浏览器中直接运行的动手代码来练习 CUDA Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 CUDA Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 CUDA Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 1 节课，共 4 节。
「CPU 与 GPU：延迟与吞吐量」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 CUDA Academy 课中编写并运行代码吗？
能。每节 CUDA Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- CPU 与 GPU：延迟与吞吐量
- SIMT：同一条指令，多个线程
- CUDA 到底是什么
- 适合 GPU 的问题