Bellek İşlemi Nedir

GPU hiçbir zaman tek bir baytı tek başına getirmez. Yalnızca bir değer istemiş olsanız bile belleği, bellek işlemi adı verilen sabit boyutlu bloklar halinde taşır.

32 iş parçacığından oluşan bir iş parçacığı grubu, yükleme işlemlerini aynı anda başlatır. Donanım 32 isteğin tümünü toplar ve bunları mümkün olduğunca az işlemle karşılamaya çalışır.

Global bellek, genellikle 32 veya 128 bayt genişliğinde hizalanmış segmentlere ayrılır. Her işlem tek bir segmentin tamamını getirir, hiçbir zaman kısmi bir bölümü getirmez.

128 baytlık bir satır tam olarak 32 adet dört baytlık kayan noktalı sayı tutar. Bu, bir iş parçacığı grubundaki her iş parçacığı için bir değer demektir; dolayısıyla düzenli bir grup tek bir işlemle karşılanabilir.

Segmentler sabit ve hizalanmış adreslerde başlar. Verileriniz segmentin ortasında başlarsa tek bir iş parçacığı grubu iki satıra taşabilir ve ek bir işlem gerektirebilir.

Bir iş parçacığı grubu 128 baytlık bir satırın yalnızca birkaç baytına erişse bile GPU yine 128 baytın tamamını taşır. Kullanılmayan baytlar, bedelini zaten ödediğiniz boşa harcanan bant genişliğidir.

Başarım çoğu zaman tek bir sayıya bağlıdır: bir iş parçacığı grubunun kaç işleme ihtiyaç duyduğu. Daha az işlem, daha az okuma ve daha hızlı tamamlanma demektir.

32 iş parçacığı hizalanmış bir adresten birbirine komşu 32 kayan noktalı sayı okuduğunda GPU, tek ve düzenli bir 128 baytlık satırla yanıt verir. İdeal tek işlem budur.

Her iş parçacığı komşularından uzakta bir değer alırsa iş parçacığı grubu 32 ayrı işleme kadar yol açabilir; böylece çok az veri kullanmak için 32 tam satır getirilir.

Çoğu çekirdek matematikle değil, belleği ne kadar hızlı taşıdığıyla sınırlıdır. İşlem sayısını azaltmak etkin bant genişliğinizi doğrudan artırır. 🚀

Artık maliyet birimini biliyorsunuz: segment boyutundaki işlem. Bundan sonraki her birleştirme yöntemi, iş parçacığı gruplarını bu işlemlerden mümkün olduğunca azına sığdırmakla ilgilidir.

GPU'nun belleği sabit segmentler halinde taşıdığını ve bir iş parçacığı grubunun mümkün olan en az sayıda işlemle karşılandığını öğrendiniz. Daha az işlem, daha hızlı çekirdek demektir. 🎉