CUDA Academy · Lezione

Structure of Arrays contro Array of Structs

Scelga layout che consentano l'accesso coalescente.

Lezione 3 di 413 passaggi

Structure of Arrays contro Array of Structs è una lezione CUDA Academy gratuita su CoddyKit. Questa è la lezione 3 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento CUDA Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso CUDA Academy include 4 lezioni in totale.

Due modi per memorizzare i record

Supponiamo che ogni particella abbia x, y e z. Può mantenerli insieme o separarli, e questa scelta modifica il modo in cui ogni warp realizza la coalescenza.

Array di struct

La disposizione naturale di C++ mette i campi di ogni record uno accanto all'altro. Si tratta di un array di struct, spesso abbreviato in AoS.

struct Particle { float x, y, z; };
Particle p[N];

Perché AoS disperde gli accessi

Quando un warp legge solo x da ogni record, i valori di x distano 12 byte l'uno dall'altro. Questo stride intrinseco spreca gran parte di ogni linea caricata.

float xi = p[i].x; // x values are spaced by sizeof(Particle)

Structure of Arrays

Invertiamo la disposizione: memorizziamo insieme tutti i valori di x, poi tutti quelli di y e infine tutti quelli di z. Questa è una structure of arrays, o SoA.

float x[N];
float y[N];
float z[N];

Perché SoA è coalescente

Ora la lettura di x da parte di 32 thread interessa 32 float contigui. Si tratta di un'unica linea allineata e di un'unica transazione ordinata per campo.

float xi = x[i]; // neighbors land in one line

Il test dell'accesso ai campi

Si chieda come il kernel legge i dati. Se i thread attraversano un campo in molti record, sul GPU SoA è quasi sempre la scelta migliore.

Quando AoS va bene

Se ogni thread usa insieme tutti i campi di un record, AoS li mantiene nella stessa linea e rimane favorevole alla cache.

La larghezza di banda, non solo lo stile

Non è una questione di preferenze. Passare da AoS a SoA può moltiplicare il throughput effettivo a parità di calcoli, semplicemente riducendo i byte sprecati.

Una soluzione ibrida

Può raggruppare alcuni record e poi separare i campi all'interno di ogni gruppo. Questa disposizione AoSoA bilancia la coalescenza con la località della cache.

Progettare prima di ottimizzare

La disposizione è difficile da cambiare in seguito, perché coinvolge ogni kernel e ogni copia. Scelga presto la struttura SoA o AoS, guidato dai pattern di accesso. 🧩

La mappatura da ricordare

Regola empirica per le GPU: separi i campi in array, così ogni warp legge una sequenza contigua. Preferisca SoA per i kernel che elaborano un campo alla volta.

Verifica rapida

Scelga la disposizione che realizza la coalescenza per questo accesso.

Riepilogo

Ha confrontato AoS e SoA: raggruppi i campi quando usa l'intero record, ma li separi in array quando i warp attraversano un campo alla volta. 🎉

Gratis per iniziare

Impara C++ con un tutor IA — gratis

Scrivi ed esegui vero codice nel tuo browser, ricevi aiuto istantaneo da un tutor IA disponibile 24/7, e riprendi da dove hai lasciato sul web o nell'app.

Corsi
30
Lezioni
120

Domande Frequenti

La lezione «Structure of Arrays contro Array of Structs» è gratuita?

Sì — il testo completo di «Structure of Arrays contro Array of Structs» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso CUDA Academy, passa a CoddyKit PRO. Il corso CUDA Academy include 4 lezioni in totale.

Cosa imparerò in «Structure of Arrays contro Array of Structs»?

Scelga layout che consentano l'accesso coalescente. Eserciti CUDA Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.

Ho bisogno di esperienza per iniziare CUDA Academy?

Non è richiesta alcuna esperienza precedente. CUDA Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 3 di 4.

Quanto tempo richiede la lezione «Structure of Arrays contro Array of Structs»?

La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.

Posso scrivere ed eseguire codice in questa lezione CUDA Academy?

Sì. Ogni lezione CUDA Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.

Tutte le lezioni di questo corso

  1. Che cos'è una transazione di memoria
  2. Letture coalescenti contro strided
  3. Structure of Arrays contro Array of Structs
  4. Misurare la larghezza di banda effettiva
← Torna a CUDA Academy