Warp, Lajur, dan Masker

GPU tidak menjadwalkan utas satu per satu. GPU mengelompokkannya ke dalam warp yang terdiri dari 32 utas dan bergerak bersama, menjalankan instruksi yang sama secara serempak.

Pada perangkat keras NVIDIA, warp selalu terdiri dari 32 utas. Warp adalah unit eksekusi yang sebenarnya, jadi kernel yang baik berpikir dalam kelompok berisi 32, bukan utas tunggal.

Di dalam warp, setiap utas memiliki posisi dari 0 hingga 31 yang disebut lane. ID lane menentukan kepada siapa primitif warp mengirim atau dari siapa menerima data.

Anda dapat membaca lane secara langsung dari register khusus alih-alih menghitungnya. Register laneid selalu berisi nilai 0 hingga 31 untuk utas saat ini.

Utas berbagi satu penghitung program untuk setiap warp. Saat pernyataan if mengarahkan lane ke jalur yang berbeda, warp berdivergensi dan menjalankan setiap jalur secara bergantian, sehingga kecepatan menurun.

Tidak setiap lane selalu berjalan. Masker 32-bit menandai lane yang sedang aktif, dengan satu bit untuk setiap lane yang bernilai 1 saat lane tersebut berpartisipasi.

Setelah divergensi, hanya beberapa lane yang masih aktif. Primitif warp perlu mengetahui dengan tepat siapa yang hadir, jadi Anda memberikan masker aktif agar tetap benar.

Saat Anda yakin semua 32 lane aktif, maskernya adalah 0xffffffff, dengan setiap bit bernilai 1. Masker penuh ini adalah nilai yang paling sering Anda berikan.

Di dalam percabangan, jangan menebak maskernya. Panggil activemask untuk menangkap dengan tepat lane mana yang baru saja mencapai titik ini.

Keuntungan utamanya adalah lane dalam satu warp dapat bertukar data secara langsung melalui register. Tidak diperlukan memori bersama maupun penghalang untuk pertukaran lokal warp.

Akhiran sync pada intrinsik ini adalah jabat tangan tingkat warp, bukan penghalang blok. Akhiran ini hanya mengoordinasikan lane yang disebutkan dalam masker yang Anda berikan.

Warp terdiri dari 32 lane yang berjalan serempak, dan masker melacak lane yang aktif. Dasar ini memungkinkan lane berbagi data dengan cepat. Berikutnya: pengocokan untuk reduksi. ✨