Il kernel matmul ingenuo
Una base indicizzata in 2D e i suoi limiti.
Il kernel matmul ingenuo è una lezione CUDA Academy gratuita su CoddyKit. Questa è la lezione 1 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento CUDA Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso CUDA Academy include 4 lezioni in totale.
Moltiplicazione di matrici, in stile GPU
La moltiplicazione di matrici è il cuore della grafica e dell'IA. Oggi costruirà prima una versione GPU ingenua, poi scoprirà perché non sfrutta tutta la velocità disponibile.
La matematica in una riga
Ogni cella di output C[row][col] è un prodotto scalare: si moltiplica un'intera riga di A per un'intera colonna di B e si sommano i risultati. 🧮
C[row][col] = sum over k of A[row][k] * B[k][col]Un thread per ogni output
Il piano più semplice assegna a ogni thread un elemento di output di C. Migliaia di celle vengono calcolate contemporaneamente sull'intera GPU.
Una griglia 2D di thread
Poiché C è una griglia 2D, si avviano thread in due dimensioni. L’indice x corrisponde a una colonna, mentre l’indice y corrisponde a una riga.
dim3 threads(16, 16);
dim3 blocks((N+15)/16, (N+15)/16);Individuare la cella del thread
All’interno del kernel, ogni thread calcola la propria riga e colonna a partire dagli indici del blocco e del thread, proprio come nell’indicizzazione 1D, ma su entrambi gli assi.
int row = blockIdx.y*blockDim.y + threadIdx.y;
int col = blockIdx.x*blockDim.x + threadIdx.x;Il controllo dei limiti
Le griglie vengono arrotondate per eccesso, quindi alcuni thread si trovano al di fuori della matrice. Usi if (row < N && col < N) prima di accedere alla memoria.
if (row < N && col < N) {
// safe to compute
}Il ciclo interno
Ogni thread esegue un ciclo su k, accumulando i prodotti in una somma locale. Questa variabile locale risiede in un registro veloce.
float sum = 0.0f;
for (int k = 0; k < N; ++k)
sum += A[row*N+k] * B[k*N+col];Scrivere il risultato
Al termine del ciclo, il thread memorizza la somma accumulata in C una sola volta. Un thread, una scrittura pulita.
C[row*N + col] = sum;Conversione in ordine per righe
La matrice è un array 1D lineare, quindi si accede ai suoi elementi usando row*N + col. Gestire correttamente questo layout è metà del lavoro in matmul.
Perché funziona, ma lentamente
Questo kernel è corretto e facile da leggere, ma ogni thread legge la propria riga e colonna direttamente dalla memoria globale, lo spazio più lento.
Il costo nascosto
I thread vicini rileggono continuamente le stesse righe di A e colonne di B. Questo traffico di memoria sprecato è esattamente ciò che il tiling risolverà tra poco.
Verifica rapida
Rifletta su come il kernel ingenuo associa il lavoro ai thread.
Riepilogo
Ha associato un thread a ogni cella di output, ha eseguito un ciclo su k leggendo dalla memoria globale e ha osservato le letture ridondanti. Ora ridurrà questo traffico con il tiling. 🚀
Impara C++ con un tutor IA — gratis
Scrivi ed esegui vero codice nel tuo browser, ricevi aiuto istantaneo da un tutor IA disponibile 24/7, e riprendi da dove hai lasciato sul web o nell'app.
- Corsi
- 30
- Lezioni
- 120
Domande Frequenti
La lezione «Il kernel matmul ingenuo» è gratuita?
Sì — il testo completo di «Il kernel matmul ingenuo» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso CUDA Academy, passa a CoddyKit PRO. Il corso CUDA Academy include 4 lezioni in totale.
Cosa imparerò in «Il kernel matmul ingenuo»?
Una base indicizzata in 2D e i suoi limiti. Eserciti CUDA Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare CUDA Academy?
Non è richiesta alcuna esperienza precedente. CUDA Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 1 di 4.
Quanto tempo richiede la lezione «Il kernel matmul ingenuo»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione CUDA Academy?
Sì. Ogni lezione CUDA Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Il kernel matmul ingenuo
- Suddividere il prodotto interno in tile
- Iterare sulle fasi dei tile
- Misurare l'incremento di velocità