วาร์ป เลน และมาสก์

GPU ไม่ได้จัดตารางเธรดทีละรายการ แต่จะจัดกลุ่มเป็น เวิร์ปละ 32 เธรดที่เคลื่อนที่ไปพร้อมกัน โดยทำงานตามคำสั่งเดียวกันแบบประสานจังหวะ

บนฮาร์ดแวร์ NVIDIA เวิร์ปจะมี 32 เธรดเสมอ เวิร์ปคือหน่วยการทำงานที่แท้จริง ดังนั้นเคอร์เนลที่ดีจึงคิดเป็นกลุ่มละ 32 ไม่ใช่คิดทีละเธรด

ภายในเวิร์ป แต่ละเธรดมีตำแหน่งตั้งแต่ 0 ถึง 31 เรียกว่า เลน หมายเลขเลนคือสิ่งที่คำสั่งพื้นฐานของเวิร์ปใช้ระบุว่าใครกำลังสื่อสารกับใคร

คุณสามารถอ่านเลนได้โดยตรงจากรีจิสเตอร์พิเศษ แทนการคำนวณเอง รีจิสเตอร์ laneid จะเก็บค่า 0 ถึง 31 ของเธรดปัจจุบันไว้เสมอ

แต่ละเวิร์ปใช้ตัวนับคำสั่งร่วมกันหนึ่งตัว เมื่อคำสั่ง if ส่งเลนไปคนละเส้นทาง เวิร์ปจะ แยกเส้นทาง และทำงานแต่ละเส้นทางสลับกัน ส่งผลให้ความเร็วลดลง

ไม่ใช่ทุกเลนที่จะทำงานอยู่เสมอ หน้ากากขนาด 32 บิตจะระบุว่าเลนใดกำลังทำงาน โดยมีหนึ่งบิตต่อหนึ่งเลน และตั้งเป็น 1 เมื่อเลนนั้นมีส่วนร่วม

หลังจากแยกเส้นทาง จะมีเพียงบางเลนที่ยังทำงานอยู่ คำสั่งพื้นฐานของเวิร์ปจึงต้องทราบอย่างแน่นอนว่าใครอยู่ในขณะนั้น คุณจึงต้องส่ง หน้ากากที่กำลังทำงานให้คำสั่งเหล่านั้นเพื่อให้ทำงานถูกต้อง

เมื่อแน่ใจว่าเลนทั้ง 32 เลนกำลังทำงาน หน้ากากจะเป็น 0xffffffff ซึ่งมีทุกบิตเป็น 1 หน้ากากเต็มรูปแบบนี้เป็นค่าที่ส่งให้คำสั่งบ่อยที่สุด

ภายในแขนงคำสั่ง อย่าเดาหน้ากาก ให้เรียก activemask เพื่อบันทึกอย่างแม่นยำว่าเลนใดมาถึงจุดนี้ในขณะนั้น

ข้อดีสำคัญคือเลนในเวิร์ปเดียวกันสามารถแลกเปลี่ยนข้อมูลโดยตรงผ่านรีจิสเตอร์ได้ ไม่จำเป็นต้องใช้ หน่วยความจำใช้ร่วมหรือจุดกั้นสำหรับการแลกเปลี่ยนภายในเวิร์ป

ส่วนต่อท้าย sync ของคำสั่งพื้นฐานเหล่านี้คือการประสานงาน ระดับเวิร์ป ไม่ใช่จุดกั้นระดับบล็อก โดยจะประสานเฉพาะเลนที่ระบุไว้ในหน้ากากที่คุณส่งให้

เวิร์ปคือเลน 32 เลนที่ทำงานแบบประสานจังหวะ และ หน้ากากจะติดตามว่าเลนใดกำลังทำงาน พื้นฐานนี้ทำให้เลนสามารถแบ่งปันข้อมูลได้อย่างรวดเร็ว ต่อไปคือการสับเปลี่ยนค่าเพื่อทำการลดรูป ✨