__shfl_down_sync untuk Pengurangan

Shuffle membolehkan satu lorong membaca nilai daftar lorong lain secara terus. Data berpindah antara utas tanpa memori dikongsi dan tanpa penghalang di antaranya.

Alat utama untuk pengurangan ialah shfl_down_sync. Setiap lorong mengambil nilai daripada lorong yang berada beberapa kedudukan lebih tinggi dalam warp.

Panggilan ini menerima topeng aktif, nilai untuk dikongsi dan ofset. Lorong i menerima nilai yang dipegang oleh lorong i tambah ofset.

Jumlah warp hanya menambah nilai yang di-shuffle kembali. Lorong i mengambil nombor jirannya dan memasukkannya ke dalam jumlah terkumpul sendiri.

Seperti pengurangan pepohon, ofset bermula pada 16 dan dibahagi dua pada setiap langkah: 16, 8, 4, 2, 1. Selepas lima langkah, seluruh warp dijumlahkan.

Warp mempunyai 32 lorong, dan 2 kuasa lima ialah 32. Oleh itu, lima langkah pembahagian dua tepat mencukupi untuk menggabungkan kesemua 32 nilai menjadi satu.

Selepas gelung, jumlah lengkap warp berada dalam lane 0. Lorong lain mengandungi data separa yang tidak berguna, jadi hanya lorong 0 patut menulis hasil tersebut.

Oleh sebab pertukaran berlaku melalui daftar secara serentak, anda boleh melangkau syncthreads sepenuhnya. Akhiran sync sudah menyelaraskan lorong yang bertopeng.

Pengurangan melalui shuffle warp mengatasi versi memori dikongsi: arahan lebih sedikit, tiada konflik bank dan tiada kelewatan akibat halangan. Ini ialah laluan pantas untuk 32 elemen terakhir.

Jika sesetengah lorong sudah keluar, topeng penuh adalah salah. Dapatkan set yang masih aktif dengan activemask supaya setiap shuffle hanya menyentuh lorong yang masih ada.

Pengurangan besar sering mengurangkan setiap warp dengan shuffle, kemudian menggabungkan hasil warp dalam shared memory. Shuffle mengendalikan tahap dalaman yang murah dengan sangat baik.

Anda menjumlahkan warp dengan shfl_down_sync: bahagikan ofset kepada separuh sebanyak lima kali, dan lorong 0 memegang jumlah keseluruhan tanpa memerlukan halangan. Seterusnya: ballot dan undian. ✨