การลดรูปขั้นสุดท้ายหลายบล็อก

การลดค่าภายในบล็อกทำได้ง่าย แต่ บล็อก ทำงานแยกจากกันและไม่สามารถซิงโครไนซ์ระหว่างกันระหว่างที่เคอร์เนลกำลังทำงาน ดังนั้นการเรียกใช้เพียงครั้งเดียวจึงไม่สามารถหาผลรวมทั้งหมดได้

ดังนั้นแต่ละบล็อกจะลดค่าข้อมูลส่วนของตนเองให้เหลือหนึ่งตัวเลข ซึ่งเรียกว่า ผลรวมย่อย แล้วเขียนลงในอาร์เรย์ผลลัพธ์ขนาดเล็ก โดยใช้ blockIdx เป็นดัชนี

เมื่อมี 1,000 บล็อก คุณจะลดจำนวนจากอินพุตหนึ่งล้านค่าเหลือ ผลรวมย่อย 1,000 ค่า ส่วนที่ยากเสร็จแล้ว เหลือเพียงอาร์เรย์ขนาดเล็กมากให้รวมเข้าด้วยกัน

วิธีจบที่ง่ายที่สุดคือ การเรียกใช้ครั้งที่สอง ของเคอร์เนลเดิมกับผลรวมย่อย ทำซ้ำจนเหลือค่าเดียว

แต่ละรอบจะลดขนาดอาร์เรย์ลงตามขนาดบล็อก การเรียกใช้แบบ วนซ้ำ เพียงไม่กี่ครั้งสามารถลดค่าหลายล้านค่าให้เหลือผลรวมสุดท้ายเพียงค่าเดียว

อีกทางเลือกหนึ่งคือให้เธรด 0 ของแต่ละบล็อกบวกผลรวมย่อยของตนโดยตรงเข้าไปในผลรวมส่วนกลางด้วย atomicAdd จึงไม่ต้องใช้เคอร์เนลที่สอง

การดำเนินการแบบอะตอมิกเรียบง่ายและต้องเรียกใช้เพียงครั้งเดียว แต่หากหลายบล็อก แย่งกันเข้าถึง แอดเดรสเดียวกัน การทำงานอาจต้องเรียงตามลำดับ เมื่อมีผลรวมย่อยไม่มาก วิธีนี้มักเพียงพอ

ลูปแบบระยะก้าวของกริด ทำให้แต่ละเธรดรวมข้อมูลหลายค่าไว้ในรีจิสเตอร์ก่อน จึงต้องใช้บล็อกน้อยลงมากก่อนถึงขั้นตอนสุดท้าย

การทำ งานต่อเธรด ให้มากขึ้นตั้งแต่ต้น หมายถึงมีผลรวมย่อยและการเรียกใช้น้อยลง วิธีนี้มักมีประสิทธิภาพดีกว่าการสร้างหนึ่งเธรดต่อหนึ่งองค์ประกอบ

หากใช้การดำเนินการแบบอะตอมิก อย่าลืม กำหนดค่าเป็นศูนย์ให้ผลรวมส่วนกลางก่อนเรียกใช้ มิฉะนั้นผลรวมของคุณจะเริ่มจากข้อมูลตกค้างในหน่วยความจำนั้น

อินพุตขนาดเล็กเหมาะกับอะตอมิกเพราะเรียบง่าย ส่วนอินพุตขนาดใหญ่มักเหมาะกับการออกแบบแบบ สองรอบ หรือแบบระยะก้าวของกริด ควรวัดประสิทธิภาพกับข้อมูลของคุณเพื่อเลือกวิธีที่เหมาะสม

ลองคิดดูว่าเหตุใดการเรียกใช้เคอร์เนลเพียงครั้งเดียวจึงไม่สามารถหาผลรวมของอาร์เรย์ทั้งหมดได้โดยตรง

แต่ละบล็อกสร้าง ผลรวมย่อย จากนั้นคุณรวมผลเหล่านั้นด้วยการเรียกใช้อีกครั้ง การดำเนินการแบบอะตอมิก หรือการวนตามระยะก้าวของกริด ตอนนี้คุณสามารถลดค่าอาร์เรย์ขนาดใดก็ได้แล้ว 🏁