ธุรกรรมหน่วยความจำคืออะไร

GPU จะไม่ดึงข้อมูลทีละไบต์โดยลำพัง แต่จะย้ายหน่วยความจำเป็นบล็อกขนาดคงที่ที่เรียกว่าธุรกรรมหน่วยความจำ แม้ว่าคุณจะขอเพียงค่าเดียวก็ตาม

วาร์ปที่มี 32 เธรดจะส่งคำขอโหลดพร้อมกัน ฮาร์ดแวร์จะรวบรวมคำขอทั้ง 32 รายการและพยายามให้บริการด้วยจำนวนธุรกรรมน้อยที่สุด

หน่วยความจำส่วนกลางถูกแบ่งเป็นเซกเมนต์ที่จัดแนวไว้ โดยทั่วไปมีขนาด 32 หรือ 128 ไบต์ แต่ละธุรกรรมจะดึงเซกเมนต์ทั้งหมดหนึ่งเซกเมนต์ ไม่เคยดึงเพียงบางส่วน

บรรทัดขนาด 128 ไบต์เก็บค่า float ขนาดสี่ไบต์ได้พอดี 32 ค่า ซึ่งเท่ากับหนึ่งค่าต่อเธรดในวาร์ป ดังนั้นวาร์ปที่จัดเรียงอย่างเป็นระเบียบจึงให้บริการได้ด้วยธุรกรรมเดียว

เซกเมนต์เริ่มต้นที่ตำแหน่งซึ่งกำหนดและจัดแนวไว้ หากข้อมูลของคุณเริ่มกลางเซกเมนต์ วาร์ปเดียวอาจพาดผ่านสองบรรทัดและบังคับให้เกิดธุรกรรมเพิ่มเติม

หากวาร์ปแตะเพียงไม่กี่ไบต์จากบรรทัดขนาด 128 ไบต์ GPU ก็ยังย้ายข้อมูลทั้ง 128 ไบต์ ไบต์ที่ไม่ได้ใช้คือแบนด์วิดท์ที่สูญเปล่าซึ่งคุณต้องจ่ายอยู่ดี

ประสิทธิภาพมักขึ้นอยู่กับตัวเลขเพียงตัวเดียว: วาร์ปต้องใช้ธุรกรรมกี่รายการ ยิ่งมีธุรกรรมน้อย ก็ยิ่งอ่านข้อมูลน้อยและทำงานเสร็จเร็วขึ้น

เมื่อ 32 เธรดอ่านค่า float 32 ค่าที่อยู่ติดกันจากตำแหน่งที่จัดแนวไว้ GPU จะตอบด้วยบรรทัดขนาด 128 ไบต์ที่เป็นระเบียบเพียงหนึ่งบรรทัด นี่คือธุรกรรมเดียวในกรณีที่เหมาะที่สุด

หากแต่ละเธรดหยิบค่าที่อยู่ห่างจากเธรดข้างเคียง วาร์ปอาจทำให้เกิดธุรกรรมแยกกันมากถึง 32 รายการ ซึ่งดึงบรรทัดเต็ม 32 บรรทัดมาใช้เพียงเล็กน้อย

เคอร์เนลส่วนใหญ่ติดข้อจำกัดที่ความเร็วในการย้ายหน่วยความจำ ไม่ใช่การคำนวณ การลดจำนวนธุรกรรมจะเพิ่มแบนด์วิดท์ที่ใช้งานได้จริงโดยตรง 🚀

ตอนนี้คุณทราบหน่วยของต้นทุนแล้ว นั่นคือธุรกรรมขนาดเท่าเซกเมนต์ เทคนิคการรวมการเข้าถึงทั้งหมดที่กำลังจะเรียน แท้จริงแล้วมุ่งจัดวาร์ปให้ใช้ธุรกรรมเหล่านี้น้อยที่สุด

คุณได้เรียนรู้ว่า GPU ย้ายหน่วยความจำเป็นเซกเมนต์ขนาดคงที่ และวาร์ปจะได้รับบริการด้วยจำนวนธุรกรรมน้อยที่สุดเท่าที่ทำได้ ธุรกรรมน้อยลง เคอร์เนลก็เร็วขึ้น 🎉