ما الذي يعنيه Occupancy فعليًا

يمكن لكل نواة GPU، المسماة SM، إبقاء العديد من مجموعات الخيوط مقيمة في الوقت نفسه. ويقيس الإشغال مدى امتلاء هذه السعة فعليًا. 🎯

الإشغال هو نسبة مجموعات الخيوط النشطة على SM إلى الحد الأقصى لمجموعات الخيوط التي يستطيع ذلك SM استيعابها. وكلما زاد عدد مجموعات الخيوط المقيمة، زاد امتلاء الجهاز.

عندما تتوقف مجموعة خيوط بسبب قراءة بطيئة من الذاكرة، يشغّل SM فورًا مجموعة خيوط جاهزة أخرى. وهذا التبديل هو ما يتيح لـ GPU إخفاء زمن الانتظار.

تحدد كل بنية سقفًا معينًا، غالبًا 64 مجموعة خيوط لكل SM. ويقارن الإشغال نواتكم بهذا الحد العتادي.

الإشغال النظري هو ما يسمح به إعداد التشغيل على الورق. أما الإشغال المحقق فهو ما نُفّذ فعليًا، ويقيسه برنامج التنميط.

إذا كان SM يستوعب 64 مجموعة خيوط بينما تبقي نواتكم 32 مجموعة فقط مقيمة، فإن الإشغال لديكم يبلغ 50%. وتظل نصف قدرة إخفاء زمن الانتظار معطلة.

يُحسب الإشغال دائمًا باستخدام مجموعات الخيوط، وليس الخيوط المفردة. تتكون مجموعة الخيوط من 32 خيطًا، ولذلك فإن كتلة من 256 خيطًا تساوي 8 مجموعات خيوط تمامًا.

يقسم المجدول كل كتلة مقيمة إلى مجموعات خيوط. لذلك فإن ضرب عدد الكتل لكل SM في عدد مجموعات الخيوط لكل كتلة يعطي عدد مجموعات الخيوط النشطة.

تحد ثلاثة موارد الإشغال: السجلات لكل خيط، والذاكرة المشتركة لكل كتلة، وحد مجموعات الخيوط في SM. ويفوز العامل الأكثر تقييدًا.

يخفي الإشغال الأعلى زمن الانتظار بصورة أفضل عادةً، لكنه بعد حد معين لا يحقق أي مكسب إضافي. إنه أداة وليس الهدف النهائي.

تعرض أدوات التنميط مثل Nsight Compute الإشغال المحقق بجوار نواتكم مباشرةً. وهذا الرقم هو نقطة البداية للضبط.

فكّروا في ما يقيسه الإشغال فعليًا.

تعلّمتم أن الإشغال هو نسبة مجموعات الخيوط النشطة إلى الحد الأقصى في SM، ويُحسب بمجموعات الخيوط، ويساعد على إخفاء زمن الانتظار. 🚀