Apakah Maksud Sebenar Penghunian

Setiap teras GPU, yang dipanggil SM, boleh mengekalkan banyak warp aktif serentak. Occupancy mengukur sejauh mana kapasiti itu benar-benar dipenuhi. 🎯

Occupancy ialah nisbah warp aktif pada SM kepada jumlah maksimum warp yang boleh ditampung oleh SM itu. Lebih banyak warp aktif bermakna mesin lebih penuh.

Apabila satu warp tersekat kerana bacaan memori yang perlahan, SM serta-merta menjalankan warp sedia yang lain. Pertukaran inilah cara GPU menyembunyikan kependaman.

Setiap seni bina menetapkan had, lazimnya 64 warp bagi setiap SM. Occupancy membandingkan kernel anda dengan had perkakasan itu.

Occupancy teori ialah perkara yang dibenarkan oleh konfigurasi pelancaran anda secara teori. Occupancy dicapai ialah perkara yang benar-benar berjalan, diukur oleh pemprofil.

Jika satu SM menampung 64 warp tetapi kernel anda hanya mengekalkan 32 warp aktif, occupancy anda ialah 50%. Separuh kuasa penyembunyian kependaman tidak digunakan.

Occupancy sentiasa dikira dalam warp, bukan utas tunggal. Satu warp mempunyai 32 utas, jadi blok 256 utas tepat bersamaan 8 warp.

Penjadual membahagikan setiap blok aktif kepada warp. Oleh itu, blok bagi setiap SM didarab dengan warp bagi setiap blok memberikan jumlah warp aktif.

Tiga sumber mengehadkan occupancy: daftar bagi setiap utas, memori kongsi bagi setiap blok dan had warp SM. Had yang paling ketat akan menentukan hasilnya.

Occupancy yang lebih tinggi biasanya menyembunyikan kependaman dengan lebih baik, tetapi selepas tahap tertentu ia tidak memberikan peningkatan tambahan. Ia ialah alat, bukan matlamat akhir.

Pemprofil seperti Nsight Compute melaporkan occupancy dicapai bersebelahan dengan kernel anda. Nombor itu ialah titik permulaan penalaan anda.

Anda telah mempelajari bahawa occupancy ialah warp aktif berbanding maksimum SM, dikira dalam warp, dan membantu menyembunyikan kependaman. 🚀