İş Parçacığı Hiyerarşisi

Bir CUDA çekirdeği birçok iş parçacığı üzerinde paralel çalışır ve her iş parçacığı verinin kendi bölümünde aynı işi yapar. 🧵

Milyonlarca başıboş iş parçacığı başlatmak karmaşa yaratırdı. CUDA, donanımın bunları iyi zamanlayabilmesi için onları düzenli bir hiyerarşi içinde organize eder.

İş parçacıkları bir blok içinde gruplanır. Bir bloktaki her iş parçacığı aynı çekirdeği çalıştırır ve komşularıyla yakından iş birliği yapabilir.

Bir başlatmadaki tüm bloklar birlikte ızgarayı oluşturur. Yani yapı basittir: iş parçacıkları bloklarda, bloklar da ızgarada bulunur.

İki düzeyli tasarım, tek bir çekirdeğin küçük bir GPU'dan çok büyük bir GPU'ya kadar ölçeklenmesini sağlar. İşi bir kez tanımlarsınız ve ızgara sığacak şekilde genişler.

Üçlü açılı parantez söz dizimini kullanarak kaç blok ve blok başına kaç iş parçacığı olacağını doğrudan başlatma sırasında seçersiniz.

4 blok ve her birinde 256 iş parçacığı başlattığınızı düşünün. Böylece aynı anda çalışan 4 çarpı 256, yani 1024 iş parçacığınız olur.

Farklı bloklar herhangi bir sırayı varsayamaz veya doğrudan iletişim kuramaz. GPU'nun bunları herhangi bir sırada çalıştırabilmesini sağlayan tam olarak bu bağımsızlıktır.

Bir blok içindeki iş parçacıkları hızlı çip üstü belleği paylaşabilir ve birbirleriyle eşzamanlanabilir. Bu ekip çalışması, bir bloğun en güçlü yönüdür.

Hem ızgara hem de her blok 1B, 2B veya 3B olabilir. dim3 türü, görüntülere veya hacimlere doğal biçimde eşlemenizi sağlar.

Yaygın amaç, her iş parçacığına işlemesi için tam olarak bir veri öğesi vermektir. Hiyerarşi yalnızca bu eşlemeye ulaşma biçimidir.

CUDA basamağını öğrendiniz: iş parçacıkları bir blok oluşturur, bloklar da ızgarayı oluşturur. Bağımsız bloklar ölçeklenirken bir blok içindeki iş parçacıkları iş birliği yapar. 🎯