استخدام __shfl_down_sync للاختزال

تتيح shuffle لـ lane واحد قراءة قيمة سجل lane آخر مباشرةً. فتنتقل البيانات بين الخيوط دون ذاكرة مشتركة ودون حاجز بينهما.

الأداة الأساسية للاختزالات هي shfl_down_sync. إذ يجلب كل lane قيمة من lane يقع أعلى منه بعدد ثابت من المواضع في warp.

يأخذ الاستدعاء قناعًا نشطًا، والقيمة المراد مشاركتها، وإزاحة. ويتلقى lane i القيمة الموجودة في lane i زائد الإزاحة.

لا يحتاج جمع warp إلا إلى إضافة القيمة التي جرى تبديلها. فيأخذ lane i رقم جاره ويدمجه في المجموع الجاري الخاص به.

مثل الاختزال الشجري، تبدأ الإزاحة عند 16 ثم تنخفض إلى النصف في كل خطوة: 16، 8، 4، 2، 1. وبعد خمس خطوات، يُجمع warp بأكمله.

يضم warp عددًا قدره 32 من الـlanes، و2 مرفوعة إلى القوة الخامسة تساوي 32. لذلك تكفي خمس خطوات تنصيف لدمج القيم الـ32 كلها في قيمة واحدة.

بعد انتهاء الحلقة، يوجد مجموع warp الكامل في lane 0. أما الـlanes الأخرى فتحوي أجزاء غير مفيدة، لذا ينبغي لـ lane 0 وحده كتابة النتيجة.

بما أن التبادل يحدث عبر السجلات بالتزامن، يمكنكم تخطي syncthreads بالكامل. فلقد تولت لاحقة sync تنسيق الـlanes المقنّعة.

يتفوق اختزال warp باستخدام shuffle على الإصدار المعتمد على الذاكرة المشتركة: تعليمات أقل، ولا تعارضات بنوك، ولا حالات توقف بسبب حاجز. إنه المسار السريع للـ32 عنصرًا الأخيرة.

إذا كانت بعض الـlanes قد خرجت بالفعل، فسيكون استخدام القناع الكامل خطأً. التقطوا المجموعة النشطة باستخدام activemask كي تلامس كل عملية shuffle الـlanes الموجودة فقط.

غالبًا ما تُجري الاختزالات الكبيرة اختزالًا لكل warp باستخدام عمليات shuffle، ثم تدمج نتائج warps في الذاكرة المشتركة. وتتعامل عمليات shuffle بكفاءة كبيرة مع المستوى الداخلي البسيط.

فكّروا في أيّ مسار يحتفظ بالإجابة عند انتهاء الحلقة.

جمعتم عناصر warp باستخدام shfl_down_sync: خفّضتم الإزاحة إلى النصف خمس مرات، فأصبح المسار 0 يحتفظ بالمجموع، من دون الحاجة إلى حواجز. التالي: الاقتراع والتصويت. ✨