Warpy, lane'y i maski

GPU nie planuje wątków pojedynczo. Grupuje je w warp składający się z 32 wątków, które poruszają się razem i wykonują tę samą instrukcję synchronicznie.

Na sprzęcie NVIDIA warp zawsze składa się z 32 wątków. To rzeczywista jednostka wykonawcza, dlatego dobre kernele należy projektować w grupach po 32, a nie dla pojedynczych wątków.

W warp każdy wątek ma pozycję od 0 do 31, nazywaną lane'em. Identyfikator lane'a pozwala prymitywom warp rozpoznać, kto komunikuje się z kim.

Możesz odczytać lane bezpośrednio ze specjalnego rejestru, zamiast go obliczać. Rejestr laneid zawsze zawiera wartość od 0 do 31 dla bieżącego wątku.

Wątki współdzielą jeden licznik programu na warp. Gdy instrukcja if kieruje lane'y różnymi ścieżkami, warp rozgałęzia się i wykonuje każdą ścieżkę po kolei, co obniża wydajność.

Nie każdy lane jest zawsze uruchomiony. 32-bitowa maska oznacza, które lane'y są obecnie aktywne; dla każdego uczestniczącego lane'a odpowiadający bit ma wartość 1.

Po rozgałęzieniu aktywne pozostają tylko niektóre lane'y. Prymitywy warp muszą dokładnie wiedzieć, kto jest obecny, dlatego przekazujesz im maskę aktywności, aby działały poprawnie.

Gdy masz pewność, że wszystkie 32 lane'y są aktywne, maska ma wartość 0xffffffff, czyli każdy bit jest ustawiony. Ta pełna maska jest najczęściej przekazywaną wartością.

Wewnątrz odgałęzienia nie zgaduj maski. Wywołaj activemask, aby uchwycić dokładnie te lane'y, które właśnie dotarły do tego miejsca.

Największą zaletą jest możliwość bezpośredniej wymiany danych między lane'ami jednego warpa za pośrednictwem rejestrów. Do wymiany lokalnej dla warpa nie są potrzebne pamięć współdzielona ani bariery.

Sufiks sync w tych intrinsics oznacza synchronizację na poziomie warpa, a nie barierę bloku. Koordynuje tylko lane'y wymienione w przekazanej masce.

Warp to 32 lane'y wykonujące instrukcje synchronicznie, a maska śledzi, które z nich są aktywne. Ta podstawa pozwala lane'om szybko współdzielić dane. Dalej: shuffles używane do redukcji. ✨