Misurare la larghezza di banda effettiva
Confronti il throughput raggiunto con quello di picco.
Misurare la larghezza di banda effettiva è una lezione CUDA Academy gratuita su CoddyKit. Questa è la lezione 4 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento CUDA Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso CUDA Academy include 4 lezioni in totale.
Dalla teoria ai numeri
La coalescenza aiuta, ma dovrebbe verificarne l'effetto. La metrica che fornisce il dato reale è la effective bandwidth del kernel, espressa in gigabyte al secondo.
Che cosa significa effective
La effective bandwidth conta i byte effettivamente necessari al kernel e li divide per il tempo impiegato. Riflette il lavoro utile, non le linee sprecate.
La formula semplice
Sommi i byte letti ai byte scritti, poi divida per i secondi trascorsi. Questo rapporto è il throughput raggiunto.
double gbps = (bytesRead + bytesWritten) / seconds / 1e9;Misurare con gli eventi
Usi gli eventi CUDA per delimitare il kernel. Misurano con precisione il lavoro della GPU, senza il rumore degli orologi lato CPU.
cudaEventRecord(start);
myKernel<<<g, b>>>(...);
cudaEventRecord(stop);Leggere il tempo trascorso
Dopo la sincronizzazione sull'evento di arresto, chieda a CUDA l'intervallo. Il risultato è espresso in millisecondi, quindi lo divida per mille prima di inserirlo nella formula.
float ms;
cudaEventElapsedTime(&ms, start, stop);Conoscere il conteggio dei byte
Per C = A + B su n float, legge 2n float e ne scrive n, quindi vengono trasferiti 3n float. Moltiplichi per quattro per ottenere i byte trasferiti.
size_t bytes = 3 * n * sizeof(float);Trovare il picco
Ogni GPU indica una larghezza di banda teorica di picco. Il valore effettivo ha senso solo come frazione di quel limite.
Il rapporto di efficienza
Divida il valore effettivo per il picco per ottenere una percentuale. I kernel coalescenti limitati dalla memoria raggiungono spesso il 70-90% del picco; quelli con accessi a stride molto meno.
Riscaldare prima
Il primo avvio sostiene costi di configurazione una tantum. Esegua il kernel una volta per riscaldarlo, poi calcoli la media di diverse esecuzioni cronometrate per ottenere un valore stabile.
Lasciare confermare i profiler
Nsight Compute riporta direttamente il throughput della memoria, così può verificare i calcoli. Segnala anche i byte sprecati a causa di una scarsa coalescenza. 🔧
Usarlo per decidere
Un rapporto basso indica che la memoria è il collo di bottiglia: intervenga quindi su coalescenza e disposizione. Un rapporto alto indica che la causa della velocità va cercata altrove.
Verifica rapida
Calcoli una effective bandwidth.
Riepilogo
Ora può misurare la effective bandwidth con gli eventi, confrontarla con il picco e usare il rapporto per decidere se la memoria è il collo di bottiglia. 🎉
Impara C++ con un tutor IA — gratis
Scrivi ed esegui vero codice nel tuo browser, ricevi aiuto istantaneo da un tutor IA disponibile 24/7, e riprendi da dove hai lasciato sul web o nell'app.
- Corsi
- 30
- Lezioni
- 120
Domande Frequenti
La lezione «Misurare la larghezza di banda effettiva» è gratuita?
Sì — il testo completo di «Misurare la larghezza di banda effettiva» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso CUDA Academy, passa a CoddyKit PRO. Il corso CUDA Academy include 4 lezioni in totale.
Cosa imparerò in «Misurare la larghezza di banda effettiva»?
Confronti il throughput raggiunto con quello di picco. Eserciti CUDA Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare CUDA Academy?
Non è richiesta alcuna esperienza precedente. CUDA Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 4 di 4.
Quanto tempo richiede la lezione «Misurare la larghezza di banda effettiva»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione CUDA Academy?
Sì. Ogni lezione CUDA Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Che cos'è una transazione di memoria
- Letture coalescenti contro strided
- Structure of Arrays contro Array of Structs
- Misurare la larghezza di banda effettiva