CPU и GPU: задержка и пропускная способность
Чем отличаются несколько мощных ядер от тысяч небольших.
«CPU и GPU: задержка и пропускная способность» — бесплатный урок CUDA Academy на CoddyKit. Это урок 1 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения CUDA Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс CUDA Academy содержит 4 уроков всего.
Two Very Different Chips
CPU и GPU выполняют код, но они созданы для противоположных целей. Один стремится как можно быстрее завершить одну задачу; другой обрушивает на стену целый поток работы одновременно. 🏎️
Latency: How Fast One Thing Finishes
Задержка — это время, необходимое для выполнения одной конкретной задачи от начала до конца. Когда вам нужен ответ прямо сейчас, вас интересует именно низкая задержка.
Throughput: How Much Finishes Per Second
Пропускная способность — это общее количество задач, которые вы выполняете в секунду. Пропускная способность может быть высокой, даже если каждая отдельная задача выполняется немного медленно.
The CPU Is a Latency Machine
ЦП имеет несколько мощных ядер с огромными кэшами и хитроумными методами, позволяющими максимально быстро выполнить одну задачу.
The GPU Is a Throughput Machine
GPU жертвует скоростью выполнения одной задачи ради колоссального объема: тысячи мелких ядер одновременно обрабатывают огромные массивы данных.
Few Big Cores vs Many Tiny Cores
Представьте CPU как небольшую группу сильных работников, а GPU — как армию из тысяч простых. Разные формы для разных задач.
The Highway Analogy
Спортивный автомобиль — это низкая задержка: одна поездка происходит быстро. Автобус — это высокая пропускная способность: каждая поездка медленнее, но он перевозит гораздо больше людей в час. 🚌
Why GPUs Spend Less on Control
ЦП расходуют транзисторы на кэш-память и предсказание переходов. ГП расходуют их на вычислительные блоки, поэтому большая часть чипа занимается непосредственными математическими вычислениями.
Hiding Latency Instead of Avoiding It
Графический процессор не ускоряет выполнение каждой отдельной задачи; он скрывает ожидание медленной памяти, мгновенно переключаясь на другую готовую работу. Время простоя заполняется, а не устраняется.
When the CPU Still Wins
Для быстрого принятия решений, разветвленной логики или задач, которые невозможно распараллелить, по-прежнему лучше всего подходит процессор с низкой задержкой. Объем — это еще не всё.
When the GPU Pulls Ahead
В тот момент, когда вам нужно выполнить одну и ту же операцию над тысячами элементов, колоссальная параллельность графического процессора превращает долгую задачу в быструю.
Quick Check
Давайте определим основной компромисс между этими двумя чипами.
Recap: Latency vs Throughput
В процессорах (CPU) используется несколько мощных ядер для обеспечения низкой задержки; в графических процессорах (GPU) — тысячи крошечных ядер для высокой пропускной способности. Выбирайте чип, который соответствует характеру вашей задачи. 👍
Часто задаваемые вопросы
Урок «CPU и GPU: задержка и пропускная способность» бесплатный?
Да — полный текст урока «CPU и GPU: задержка и пропускная способность» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс CUDA Academy, подпишись на CoddyKit PRO. Курс CUDA Academy содержит 4 уроков всего.
Чему я научусь в уроке «CPU и GPU: задержка и пропускная способность»?
Чем отличаются несколько мощных ядер от тысяч небольших. Ты практикуешь CUDA Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать CUDA Academy?
Предыдущий опыт не требуется. CUDA Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 1 из 4.
Сколько времени занимает урок «CPU и GPU: задержка и пропускная способность»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке CUDA Academy?
Да. Каждый урок CUDA Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- CPU и GPU: задержка и пропускная способность
- SIMT: одна инструкция, множество потоков
- Что такое CUDA на самом деле
- Задачи, которым подходит GPU