Uruchamianie z potrójnym nawiasem trójkątnym

Kernela nie wywołuje się tak jak zwykłej funkcji. Należy go uruchomić, określając, ile wątków GPU ma utworzyć jednocześnie. 🚀

Do uruchamiania służą specjalne CUDA — potrójne nawiasy kątowe. Wewnątrz nich podaje się konfigurację uruchomienia przed zwykłą listą argumentów.

Pierwsza wartość określa liczbę uruchamianych bloków. Blok to grupa wątków, które działają razem i współdzielą szybką pamięć układową.

Druga wartość określa liczbę wątków na blok. Łączna liczba uruchomionych wątków jest równa liczbie bloków pomnożonej przez liczbę wątków na blok.

Po nawiasach przekazuje się zwykłe argumenty kernela w nawiasach, tak jak w przypadku dowolnego wywołania C++.

Uruchomienie jest asynchroniczne: CPU umieszcza zadanie w kolejce i natychmiast kontynuuje pracę. GPU wykonuje kernel w tle.

Liczby użyte podczas uruchomienia nie muszą być stałymi. Często oblicza się liczbę bloków na podstawie rozmiaru danych w czasie działania programu.

W przypadku siatek i bloków 2D lub 3D używa się wartości typu dim3. Zawiera ona rozmiary x, y i z potrzebne podczas uruchomienia.

Bezpieślną wartością dla liczby wątków na blok jest 128 lub 256. Wartości muszą być wielokrotnościami 32 i nie mogą przekraczać 1024.

Jeśli liczba wątków na blok będzie zbyt duża, uruchomienie zakończy się niepowodzeniem bez wyraźnego komunikatu. Należy sprawdzić błędy bezpośrednio po uruchomieniu.

Uruchomienie należy odczytywać tak: wykonaj ten kernel w takiej liczbie bloków, z taką liczbą wątków, używając tych argumentów. Gdy zrozumie się schemat, jest to proste.

Czas sprawdzić konfigurację uruchomienia.

Kernel uruchamia się za pomocą kernel<<>>(args). Iloczyn liczby bloków i liczby wątków daje ich łączną liczbę, a uruchomienia są asynchroniczne. Uruchamiają Państwo kerneli jak profesjonaliści! 🎉