Разбиение скалярного произведения на фрагменты
Загружайте подфрагменты A и B на каждом этапе.
«Разбиение скалярного произведения на фрагменты» — бесплатный урок CUDA Academy на CoddyKit. Это урок 2 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения CUDA Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс CUDA Academy содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
The Tiling Idea
Tiling breaks the matrices into small square tiles that fit in fast on-chip memory. Threads cooperate to load a tile once and reuse it many times.
Why Shared Memory
A tile lives in __shared__ memory, visible to every thread in the block. Reading it is far faster than hitting global memory again and again. ⚡
__shared__ float As[TILE][TILE];
__shared__ float Bs[TILE][TILE];One Block, One Output Tile
Each block is responsible for one TILE-by-TILE patch of the output C. Its threads team up to compute that whole patch together.
Tile Size Matches Block
You pick TILE equal to the block's width, often 16 or 32. That way each thread loads exactly one element of each tile.
#define TILE 16
dim3 threads(TILE, TILE);Mapping Thread to Tile Slot
Inside the tile, a thread's slot is just its threadIdx. Its global row and col still come from the block and thread indices.
int ty = threadIdx.y, tx = threadIdx.x;
int row = blockIdx.y*TILE + ty;
int col = blockIdx.x*TILE + tx;Loading a Tile of A
Each thread copies one element of A's current tile into shared memory. Together the block stages a full TILE-by-TILE block of A.
As[ty][tx] = A[row*N + (phase*TILE + tx)];Loading a Tile of B
At the same time, each thread loads one element of B's tile. Now both tiles sit on chip, ready for fast repeated reads.
Bs[ty][tx] = B[(phase*TILE + ty)*N + col];Sync Before You Compute
Call __syncthreads() so every thread finishes loading before anyone reads the tile. Skipping this gives garbage results.
__syncthreads();Compute on the Tile
Now each thread does a short loop over the tile, reading only shared memory. These reads are dramatically cheaper than global ones.
for (int k = 0; k < TILE; ++k)
sum += As[ty][k] * Bs[k][tx];The Reuse Payoff
Every loaded value gets used by TILE threads instead of one. That data reuse is the whole reason tiled matmul flies.
One Tile Is Not Enough
A single tile only covers part of the dot product. You repeat the load-sync-compute steps across many phases, which the next lesson handles.
Quick Check
Recall the order of steps when working with a shared tile.
Recap
You staged tiles of A and B into shared memory, synced, then computed with cheap on-chip reads. Reuse is the win. Phases come next. 🧱
Часто задаваемые вопросы
Урок «Разбиение скалярного произведения на фрагменты» бесплатный?
Да — полный текст урока «Разбиение скалярного произведения на фрагменты» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс CUDA Academy, подпишись на CoddyKit PRO. Курс CUDA Academy содержит 4 уроков всего.
Чему я научусь в уроке «Разбиение скалярного произведения на фрагменты»?
Загружайте подфрагменты A и B на каждом этапе. Ты практикуешь CUDA Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать CUDA Academy?
Предыдущий опыт не требуется. CUDA Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 2 из 4.
Сколько времени занимает урок «Разбиение скалярного произведения на фрагменты»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке CUDA Academy?
Да. Каждый урок CUDA Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Наивное ядро умножения матриц
- Разбиение скалярного произведения на фрагменты
- Цикл по этапам обработки фрагментов
- Измерение ускорения