ทำไมจึงมีบล็อก

คุณอาจสงสัยว่าเหตุใด CUDA จึงต้องจัดกลุ่มเธรดเป็น บล็อก คำตอบเกี่ยวข้องกับการจัดตารางและการขยายขนาด 🤔

GPU จะมอบ บล็อกทั้งบล็อกให้กับตัวประมวลผลหลายตัวแบบสตรีมของตน บล็อกคือกลุ่มงานที่ฮาร์ดแวร์จัดตารางให้ทำงานเป็นหน่วยเดียว

บล็อกต้องทำงานอย่าง อิสระต่อกัน ทำงานตามลำดับใดก็ได้ และไม่มีการรับประกันว่าจะสื่อสารกันได้ กฎนี้ทำให้เคอร์เนลทำงานได้กับ GPU รุ่นต่าง ๆ

GPU ขนาดเล็กทำงานครั้งละไม่กี่บล็อก ส่วน GPU ขนาดใหญ่ทำงานได้หลายบล็อก ความเป็นอิสระทำให้โค้ดเดียวกัน ขยายขนาดได้โดยที่คุณไม่ต้องเปลี่ยนแม้แต่บรรทัดเดียว

เธรดในบล็อกเดียวกันใช้หน่วยความจำบนชิปความเร็วสูงร่วมกัน และสามารถ ประสานการทำงานได้ การทำงานเป็นทีมอย่างใกล้ชิดนี้เกิดขึ้นได้เพราะเธรดเหล่านั้นอยู่รวมกัน

จุดกั้นอย่าง __syncthreads ทำงานได้เฉพาะภายใน บล็อกเท่านั้น ไม่มีวิธีที่มีมาในตัวสำหรับประสานงานข้ามกริดทั้งหมดระหว่างที่เคอร์เนลกำลังทำงาน

หากบล็อกทั้งหมดรอกันเองได้ GPU อาจเกิดการหยุดชะงักถาวรเมื่อไม่สามารถจัดบล็อกทั้งหมดลงในเครื่องได้พร้อมกัน การรักษาให้บล็อก เป็นอิสระจึงช่วยหลีกเลี่ยงปัญหานี้

เมื่อบล็อกหนึ่งหยุดรอหน่วยความจำ ตัวจัดตารางจะสลับไปทำงานกับบล็อกอื่นที่พร้อม การมี บล็อกจำนวนมากช่วยให้แกนประมวลผลทำงานอยู่เสมอ

รีจิสเตอร์และหน่วยความจำร่วมจะถูกจัดสรรต่อ บล็อก บล็อกที่มีขนาดเล็กกว่าช่วยให้มีบล็อกจำนวนมากขึ้นอยู่บนตัวประมวลผลหลายตัวได้พร้อมกัน

การเริ่มทำงานที่เหมาะสมควรใช้บล็อกมากกว่าจำนวนตัวประมวลผลหลายตัวของ GPU หลายเท่า บล็อกที่เพิ่มขึ้นจะเปิดพื้นที่ให้ตัวจัดตารางกระจายงานได้สมดุล

ดังนั้นบล็อกจึงแลกการทำงานร่วมกันระดับสากลกับ ความสามารถในการขยายขนาดอย่างมหาศาล คุณสละการประสานงานข้ามบล็อกเพื่อให้ได้โค้ดที่ทำงานบน GPU ใดก็ได้

ลองคิดดูว่าความเป็นอิสระของบล็อกให้อะไรแก่คุณ

คุณได้เห็นแล้วว่าเหตุใดจึงมี บล็อก: บล็อกคือหน่วยที่จัดตารางได้และเป็นอิสระต่อกัน ซึ่งมอบความสามารถในการขยายขนาด ขณะที่เธรดภายในบล็อกทำงานร่วมกันอย่างใกล้ชิด 🚀