Tidslinjevyn i Nsight Systems

Nsight Systems är ert profileringsverktyg med helikopterperspektiv. Det visar hela tidslinjen för ert program, så att ni kan se var GPU:n står overksam. 🔭

En tidslinje placerar varje operation längs en tidsaxel. Ni ser direkt vad som körs när och hur lång tid varje del tar, sida vid sida.

Ni spelar in en körning med nsys på kommandoraden. Det samlar in GPU- och CPU-aktivitet i en enda rapport som ni kan öppna senare.

Varje rad är en aktivitetsström: CPU-trådar, CUDA API-anrop, kernels och minneskopieringar. När ni läser dem tillsammans framträder helheten.

Tomt utrymme på GPU-raden är en lucka: en tid då GPU:n inte gjorde något. Luckor är den tydligaste ledtråden till att något väntar. ⏳

I tidslinjen ligger minneskopieringar och kernels på separata banor. Om kopieringar dominerar är dataförflyttningen den verkliga kostnaden.

När kopieringar och kernels körs samtidigt överlappas deras staplar på olika strömmar. Överlappning är bra: GPU:n hålls sysselsatt.

Helhetsbilden döljer detaljer, så ni zoomar in på ett långsamt område. På nära håll kan ni mäta en kernel eller en kopiering exakt.

När ni hovrar över en stapel visas dess exakta varaktighet och namn. Då omvandlas en vag känsla av långsamhet till ett konkret tal som ni kan agera utifrån.

Ibland väntar GPU:n eftersom CPU:n är upptagen med att förbereda arbete. Tidslinjen visar dessa stopp på värdsidan lika tydligt.

Nsight Systems besvarar frågan var tiden tar vägen i hela appen. För djupgående detaljer om enskilda kernels byter ni till ett annat verktyg.

Nsight Systems ger er tidslinjen: luckor, kopieringar, kernels och överlappning i en överblick. Börja här för att hitta var tiden faktiskt tar vägen. 👏