Indirizzamento sequenziale
Utilizzi stride privi di conflitti nella memoria condivisa.
Indirizzamento sequenziale è una lezione CUDA Academy gratuita su CoddyKit. Questa è la lezione 3 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento CUDA Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso CUDA Academy include 4 lezioni in totale.
La memoria condivisa è suddivisa in banchi
La memoria condivisa è suddivisa in 32 banchi, uno per ogni lane del warp. Quando 32 thread accedono a 32 banchi diversi, tutte le letture avvengono in un unico ciclo rapido.
I conflitti tra banchi rallentano l'esecuzione
Se due thread di un warp accedono allo stesso banco, si verifica un conflitto tra banchi. L'hardware serializza questi accessi, aggiungendo cicli di esecuzione.
Indirizzamento intercalato
La riduzione precedente utilizzava un indirizzamento intercalato: lo stride parte da un valore piccolo e raddoppia, quindi gli elementi associati sono vicini nella memoria condivisa.
int index = 2 * s * tid;
data[index] += data[index + s];Perché l'intercalamento causa conflitti
Con stride piccoli che raddoppiano, diversi lane di un warp vengono mappati sullo stesso banco. Questi accessi non possono più avvenire in un unico ciclo.
Invertite l'ordine dello stride
L'indirizzamento sequenziale inizia con uno stride grande e lo dimezza a ogni passaggio, al contrario dell'intercalamento. Questa singola modifica elimina i conflitti.
for (int s = blockDim.x / 2; s > 0; s >>= 1) {
if (tid < s)
data[tid] += data[tid + s];
__syncthreads();
}Stride grande, banchi senza conflitti
Uno stride grande distribuisce gli indirizzi degli elementi associati a grande distanza, così ogni lane raggiunge il proprio banco. Il warp legge senza conflitti in un unico ciclo.
La condizione tid < s
A ogni passaggio lavorano solo i thread della metà inferiore, come indicato da tid < s. In questo modo i thread attivi rimangono contigui e anche i warp restano privi di divergenza.
Due vantaggi in una volta
L'indirizzamento sequenziale elimina i conflitti tra banchi ed evita la divergenza dei warp nello stesso kernel. Una modifica alla disposizione risolve due problemi di prestazioni.
Sincronizzate comunque a ogni passaggio
Dovete comunque usare un __syncthreads dopo ogni passaggio. I thread devono vedere le scritture del livello precedente prima di leggere i dati per il livello successivo.
Il risultato finisce all'indice 0
Quando lo stride si dimezza fino ad arrivare a zero, tutte le somme parziali confluiscono in data[0]. Il thread 0 scrive quindi il risultato di quel blocco nella memoria globale.
Un'ottimizzazione classica
Questo schema deriva direttamente dalla famosa guida di NVIDIA sulle riduzioni. L'indirizzamento sequenziale è un passaggio da manuale verso un kernel privo di conflitti.
Verifica rapida
Riflettete sul motivo per cui uno stride grande che si dimezza è migliore di uno piccolo che raddoppia.
Riepilogo
Avete sostituito l'indirizzamento intercalato con quello sequenziale: lo stride parte da un valore grande e si dimezza, eliminando in una volta sola i conflitti tra banchi e la divergenza. Prossimo argomento: le somme su più blocchi. ✨
Domande Frequenti
La lezione «Indirizzamento sequenziale» è gratuita?
Sì — il testo completo di «Indirizzamento sequenziale» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso CUDA Academy, passa a CoddyKit PRO. Il corso CUDA Academy include 4 lezioni in totale.
Cosa imparerò in «Indirizzamento sequenziale»?
Utilizzi stride privi di conflitti nella memoria condivisa. Eserciti CUDA Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare CUDA Academy?
Non è richiesta alcuna esperienza precedente. CUDA Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 3 di 4.
Quanto tempo richiede la lezione «Indirizzamento sequenziale»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione CUDA Academy?
Sì. Ogni lezione CUDA Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- L'idea dell'albero di riduzione
- Eliminare la divergenza dei warp
- Indirizzamento sequenziale
- Riduzione finale su più blocchi