__shfl_down_sync untuk Reduksi

Shuffle memungkinkan satu lane membaca nilai register lane lain secara langsung. Data berpindah antar-utas tanpa memori bersama dan tanpa penghalang di antaranya.

Perangkat utama untuk reduksi adalah shfl_down_sync. Setiap lane mengambil nilai dari lane yang posisinya lebih tinggi sejumlah langkah tertentu dalam warp.

Pemanggilan ini menerima masker aktif, nilai yang akan dibagikan, dan offset. Lane i menerima nilai yang dipegang oleh lane i ditambah offset.

Penjumlahan warp cukup menambahkan kembali nilai hasil shuffle. Lane i mengambil angka milik tetangganya dan memasukkannya ke dalam total berjalan miliknya.

Seperti reduksi pohon, offset dimulai dari 16 dan dibagi dua pada setiap langkah: 16, 8, 4, 2, 1. Setelah lima langkah, seluruh warp telah dijumlahkan.

Warp memiliki 32 lane, dan 2 pangkat lima adalah 32. Jadi, tepat diperlukan lima langkah pembagian dua untuk menggabungkan seluruh 32 nilai menjadi satu.

Setelah perulangan selesai, total warp lengkap berada di lane 0. Lane lainnya berisi hasil sementara yang tidak bermakna, jadi hanya lane 0 yang boleh menuliskan hasil.

Karena pertukaran berlangsung melalui register secara serentak, Anda dapat melewati syncthreads sepenuhnya. Akhiran sync sudah mengoordinasikan lane yang termask.

Reduksi dengan pengocokan warp mengungguli versi dengan memori bersama: instruksinya lebih sedikit, tidak ada konflik bank, dan tidak ada penundaan akibat barrier. Inilah jalur cepat untuk 32 elemen terakhir.

Jika beberapa lane sudah keluar, masker penuh tidak tepat. Ambil himpunan lane yang masih aktif dengan activemask agar setiap pengocokan hanya menyentuh lane yang masih ada.

Reduksi besar sering kali mereduksi setiap warp dengan pengocokan, lalu menggabungkan hasil warp di memori bersama. Pengocokan menangani tingkat bagian dalam yang ringan dengan sangat baik.

Anda menjumlahkan warp dengan shfl_down_sync: kurangi offset menjadi setengah sebanyak lima kali, dan lane 0 menyimpan totalnya tanpa memerlukan penghalang. Berikutnya: ballot dan voting. ✨