กลุ่มแบบร่วมมือ

การใช้ mask ดิบและอินทรินสิกทำได้ แต่ค่อนข้างยุ่งยาก กลุ่มทำงานร่วมกัน จะห่อหุ้มเธรดไว้เป็นออบเจ็กต์ที่คุณตั้งชื่อ กำหนดขนาด และประสานงานได้อย่างชัดเจน

เริ่มต้นด้วยการรับตัวอ้างอิงไปยังบล็อกเธรดของคุณ this_thread_block จะคืนค่ากลุ่มที่คุณสามารถสั่งให้ประสานงานได้เหมือน syncthreads แต่มีรูปแบบเป็นออบเจ็กต์

การเรียกใช้ sync กับบล็อกคือจุดกั้นรูปแบบใหม่ โดยทำงานเหมือน syncthreads ทุกประการ แต่สื่อความหมายได้ชัดเจนว่าเป็นเมธอดของกลุ่มที่คุณต้องการ

คุณสามารถแบ่งบล็อกออกเป็น ส่วนย่อย ที่มีขนาดคงที่ได้ ส่วนย่อยขนาด 32 เลนจะให้กลุ่มขนาดเท่าวาร์ป พร้อมเมธอดที่ชัดเจนแทนการใช้ mask ดิบสำหรับการสลับข้อมูล

กลุ่มแบบแบ่งส่วนมี shfl_down และเมธอดอื่น ๆ โดยไม่ต้องรับอาร์กิวเมนต์ mask เพราะกลุ่มรู้จักสมาชิกของตนเองอยู่แล้ว API จึงสั้นและปลอดภัย

ทุกกลุ่มเปิดเผยทั้งสมาชิกและตำแหน่งของคุณ thread_rank ให้ดัชนีของคุณภายในกลุ่ม ส่วน size จะคืนค่าจำนวนเธรดในกลุ่ม

ส่วนย่อยไม่จำเป็นต้องกว้าง 32 เลน การแบ่งด้วย tiled_partition ขนาด 8 หรือ 16 จะสร้างกลุ่มย่อยกวาร์ป ซึ่งมีประโยชน์เมื่อข้อมูลของคุณรวมตัวกันเป็นชุดเล็ก ๆ ตามธรรมชาติ

ไลบรารีมีการดำเนินการรวมที่เตรียมไว้ให้แล้ว การ reduce ของกลุ่มจะหาผลรวมของส่วนย่อยด้วยการเรียกครั้งเดียว โดยซ่อนลูปออฟเซ็ตที่คุณเคยเขียนเองก่อนหน้านี้

กลุ่มที่ทรงพลังที่สุดคือ กลุ่มกริด เมื่อเปิดใช้งานแบบร่วมมือกัน ทุกบล็อกจะสามารถประสานงานกันที่จุดกั้นเดียวได้ ซึ่งเคอร์เนลทั่วไปทำไม่ได้

การประสานงานทั่วทั้งกริดจะทำงานก็ต่อเมื่อคุณเริ่มเคอร์เนลด้วย cudaLaunchCooperativeKernel และ GPU รองรับความสามารถนี้ การเปิดใช้งานแบบปกติจะไม่อนุญาตให้ทำเช่นนั้น

กลุ่มทำงานร่วมกันทำให้โค้ดระดับวาร์ป อ่านเข้าใจได้ง่าย และย้ายไปใช้ได้กับหลายระบบ เพราะไม่ต้องจัดการ mask เอง มีขอบเขตที่ชัดเจน และมีการดำเนินการรวมที่นำกลับมาใช้ใหม่ได้ตรงกับความหมายที่ต้องการ

กลุ่มทำงานร่วมกันเปลี่ยน mask ให้เป็นออบเจ็กต์ที่มีชื่อ คุณสามารถแบ่งบล็อกเป็นส่วนย่อย เรียกใช้ reduce หรือแม้แต่ประสานงานทั้งกริดได้ ตอนนี้คุณควบคุม CUDA ระดับวาร์ปได้แล้ว ✨