Döşeme Aşamaları Üzerinde Döngü

Tam bir satırla tam bir sütunun çarpımı tek bir döşeme için fazla büyüktür. Bu nedenle uzun toplamı, her biri TILE genişliğinde bir aşama olacak şekilde parçalara ayırırsınız.

Matrisler N genişliğinde ve döşemeler TILE genişliğindeyse, iç boyutun tamamını kapsamak için N / TILE aşamaya ihtiyacınız vardır.

Yükleme-eşzamanlama-hesaplama adımlarınızı aşama üzerinde bir döngünün içine alın. Her geçiş, döşeme penceresini A'nın satırı ve B'nin sütunu boyunca biraz daha ilerletir.

Yerel sum değişkeni döngünün dışında tutulduğundan büyümeye devam eder. Her aşama, skaler çarpımın kendi bölümünü çalışan toplama ekler.

Her aşama, A'dan okuduğunuz sütunu ve B'den okuduğunuz satırı phase * TILE kadar kaydırır. Pencerenin ilerlemesini sağlayan mekanizma budur.

Daha önce olduğu gibi, herhangi biri döşeme üzerinde hesaplama yapmadan önce döşemenin tamamlanması için yüklemelerden sonra __syncthreads() çağrısını yapın.

İç döngü, yalnızca yeni yüklenen tile değerini kullanarak TILE çarpımını toplama ekler. Nihai skaler çarpımın bir parçasını oluşturur.

Daha yavaş bir iş parçacığı onu hâlâ okurken hiçbir iş parçacığının tile değerinin üzerine yazmaması için her aşamayı başka bir __syncthreads() çağrısıyla sonlandırın. 🚧

Bariyerlerden biri yükleme sonrası okumaları, diğeri okuma sonrası yüklemeleri korur. Birlikte, her aşamada tüm iş parçacıklarını aynı adımda tutarlar.

Tüm aşamalar tamamlandıktan sonra biriken toplam, eksiksiz skaler çarpımdır. Sınır denetimiyle koruyarak bunu C'ye bir kez yazın.

N, TILE'ın tam katı olmadığında, aralık dışındaki öğeler için sıfır yükleyin; böylece fazladan çarpımlar toplama hiçbir şey eklemez.

Aşamalar üzerinde döngü kurdunuz, tile değerlerini kaydırdınız, iki kez senkronize oldunuz ve kısmi toplamları tek bir toplamda biriktirdiniz. Şimdi ne kadar hızlandığını ölçelim. 📈