Kullanım Oranı Gerçekte Ne Anlama Gelir

SM adı verilen her GPU çekirdeği aynı anda birçok warp'ı yerleşik tutabilir. Doluluk, bu kapasitenin gerçekte ne kadarının kullanıldığını ölçer. 🎯

Doluluk, bir SM'deki etkin warp'ların, o SM'nin barındırabileceği en fazla warp sayısına oranıdır. Yerleşik warp sayısı arttıkça makine daha dolu çalışır.

Bir warp yavaş bir bellek okumasında beklediğinde, SM anında başka bir hazır warp çalıştırır. GPU gecikmeyi bu şekilde gizler.

Her mimari bir üst sınır belirler; bu sınır genellikle SM başına 64 warp olur. Doluluk, kernel'inizi bu donanım sınırıyla karşılaştırır.

Kuramsal doluluk, başlatma yapılandırmanızın kâğıt üzerinde izin verdiği değerdir. Gerçekleşen doluluk ise gerçekten çalıştırılan ve bir profil oluşturucu tarafından ölçülen değerdir.

Bir SM 64 warp barındırabiliyor, ancak kernel'iniz yalnızca 32 warp'ı yerleşik tutuyorsa doluluk değeriniz %50 olur. Gecikmeyi gizleme gücünün yarısı boşta kalır.

Doluluk her zaman tek tek iş parçacıklarıyla değil, warp'larla hesaplanır. Bir warp 32 iş parçacığından oluşur; dolayısıyla 256 iş parçacıklı bir blok tam olarak 8 warp'tır.

Zamanlayıcı, her yerleşik bloğu warp'lara böler. Bu nedenle SM başına blok sayısı ile blok başına warp sayısının çarpımı etkin warp sayısını verir.

Doluluğu üç kaynak sınırlar: iş parçacığı başına kayıtçılar, blok başına paylaşılan bellek ve SM'nin warp sınırı. En kısıtlayıcı olan belirleyicidir.

Daha yüksek doluluk genellikle gecikmeyi daha iyi gizler, ancak belirli bir noktadan sonra ek kazanç sağlamaz. Bu bir araçtır, nihai hedef değildir.

Nsight Compute gibi profil oluşturucular, gerçekleşen doluluğu kernel'inizin hemen yanında raporlar. Bu değer, ayarlamaya başlayacağınız noktadır.

Doluluğun SM üst sınırına göre etkin warp'ların oranı olduğunu, warp'larla hesaplandığını ve gecikmeyi gizlemeyi sağladığını öğrendiniz. 🚀