Widok osi czasu w Nsight Systems

Nsight Systems to profiler dający widok z lotu ptaka. Pokazuje pełną oś czasu programu, dzięki czemu możesz zauważyć, kiedy GPU pozostaje bezczynne. 🔭

Oś czasu rozmieszcza każdą operację na osi czasu. Od razu widzisz, co i kiedy się wykonuje oraz ile trwa każda część — obok siebie.

Rejestrujesz wykonanie za pomocą nsys w wierszu poleceń. Narzędzie zapisuje aktywność GPU i CPU w jednym raporcie, który możesz otworzyć później.

Każdy wiersz przedstawia strumień aktywności: wątki CPU, wywołania CUDA API, kernele i kopie pamięci. Odczytanie ich razem pozwala zrozumieć cały przebieg.

Pusta przestrzeń w wierszu GPU to przerwa — czas, w którym GPU nic nie robiło. Przerwy są najważniejszą wskazówką, że coś czeka. ⏳

Na osi czasu kopie pamięci i kernele znajdują się w osobnych ścieżkach. Jeśli dominują kopie, rzeczywistym kosztem jest przenoszenie danych.

Gdy kopie i kernele wykonują się jednocześnie, ich paski nakładają się na różnych strumieniach. To dobrze: GPU pozostaje zajęte.

Ogólny widok ukrywa szczegóły, więc przybliż powolny fragment. Z bliska możesz dokładnie zmierzyć pojedynczy kernel lub pojedynczą kopię.

Po najechaniu na dowolny pasek zobaczysz jego dokładny czas trwania i nazwę. Dzięki temu niejasne wrażenie spowolnienia zmienia się w konkretną liczbę, na podstawie której możesz działać.

Czasami GPU czeka, ponieważ CPU zajmuje się przygotowywaniem pracy. Oś czasu równie wyraźnie pokazuje te zatrzymania po stronie hosta.

Nsight Systems odpowiada na pytanie, gdzie upływa czas w całej aplikacji. Aby uzyskać szczegółowe dane o pojedynczym kernelu, przełączasz się na inne narzędzie.

Nsight Systems daje Ci oś czasu: przerwy, kopie, kernele i nakładanie widoczne na pierwszy rzut oka. Zacznij tutaj, aby znaleźć miejsce, w którym rzeczywiście upływa Twój czas. 👏