CUDA Academy · Leçon

Tuiler le produit scalaire

Chargez des sous-tuiles de A et B à chaque phase.

Tuiler le produit scalaire est une leçon CUDA Academy gratuite sur CoddyKit. Ceci est la leçon 2 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage CUDA Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours CUDA Academy comprend 4 leçons au total.

Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.

The Tiling Idea

Tiling breaks the matrices into small square tiles that fit in fast on-chip memory. Threads cooperate to load a tile once and reuse it many times.

Why Shared Memory

A tile lives in __shared__ memory, visible to every thread in the block. Reading it is far faster than hitting global memory again and again. ⚡

__shared__ float As[TILE][TILE];
__shared__ float Bs[TILE][TILE];

One Block, One Output Tile

Each block is responsible for one TILE-by-TILE patch of the output C. Its threads team up to compute that whole patch together.

Tile Size Matches Block

You pick TILE equal to the block's width, often 16 or 32. That way each thread loads exactly one element of each tile.

#define TILE 16
dim3 threads(TILE, TILE);

Mapping Thread to Tile Slot

Inside the tile, a thread's slot is just its threadIdx. Its global row and col still come from the block and thread indices.

int ty = threadIdx.y, tx = threadIdx.x;
int row = blockIdx.y*TILE + ty;
int col = blockIdx.x*TILE + tx;

Loading a Tile of A

Each thread copies one element of A's current tile into shared memory. Together the block stages a full TILE-by-TILE block of A.

As[ty][tx] = A[row*N + (phase*TILE + tx)];

Loading a Tile of B

At the same time, each thread loads one element of B's tile. Now both tiles sit on chip, ready for fast repeated reads.

Bs[ty][tx] = B[(phase*TILE + ty)*N + col];

Sync Before You Compute

Call __syncthreads() so every thread finishes loading before anyone reads the tile. Skipping this gives garbage results.

__syncthreads();

Compute on the Tile

Now each thread does a short loop over the tile, reading only shared memory. These reads are dramatically cheaper than global ones.

for (int k = 0; k < TILE; ++k)
  sum += As[ty][k] * Bs[k][tx];

The Reuse Payoff

Every loaded value gets used by TILE threads instead of one. That data reuse is the whole reason tiled matmul flies.

One Tile Is Not Enough

A single tile only covers part of the dot product. You repeat the load-sync-compute steps across many phases, which the next lesson handles.

Quick Check

Recall the order of steps when working with a shared tile.

Recap

You staged tiles of A and B into shared memory, synced, then computed with cheap on-chip reads. Reuse is the win. Phases come next. 🧱

Questions Fréquemment Posées

La leçon « Tuiler le produit scalaire » est-elle gratuite ?

Oui — le texte complet de « Tuiler le produit scalaire » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours CUDA Academy, passe à CoddyKit PRO. Le cours CUDA Academy comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « Tuiler le produit scalaire » ?

Chargez des sous-tuiles de A et B à chaque phase. Tu pratiques CUDA Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer CUDA Academy ?

Aucune expérience préalable n'est requise. CUDA Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 2 sur 4.

Combien de temps prend la leçon « Tuiler le produit scalaire » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon CUDA Academy ?

Oui. Chaque leçon CUDA Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

← Retour à CUDA Academy