ให้คำแนะนำผ่าน cudaMemAdvise

การดึงข้อมูลล่วงหน้าจะย้ายข้อมูลทันที ส่วน cudaMemAdvise จะบอกไดรเวอร์ว่าคุณวางแผนจะใช้พื้นที่นั้นอย่างไร เพื่อให้ไดรเวอร์จัดวางหน้าเพจได้อย่างเหมาะสมในระยะยาว

คุณส่งพอยน์เตอร์ จำนวนไบต์ แฟล็ก คำแนะนำ และไอดีอุปกรณ์ ไดรเวอร์จะนำคำใบ้นี้ไปประกอบการตัดสินใจเรื่องการย้ายข้อมูลในอนาคต

ใช้ cudaMemAdviseSetReadMostly กับข้อมูลที่อุปกรณ์หลายตัวอ่าน แต่แทบไม่เขียน ไดรเวอร์สามารถเก็บสำเนาแบบอ่านอย่างเดียวไว้บนแต่ละฝั่งเพื่อหลีกเลี่ยงการย้ายข้อมูล

ด้วย cudaMemAdviseSetPreferredLocation คุณจะระบุอุปกรณ์หลักสำหรับหน้าเพจได้ หน้าเพจเหล่านั้นจะไม่ย้ายออกไปง่าย ๆ แม้อีกฝั่งจะเข้าถึงข้อมูล

cudaMemAdviseSetAccessedBy ระบุว่าอุปกรณ์หนึ่งจะเข้าถึงพื้นที่นี้ ดังนั้นไดรเวอร์จึงแมปพื้นที่ดังกล่าวไว้ที่อุปกรณ์นั้น การเข้าถึงจะวิ่งผ่านบัสแทนการย้ายหน้าเพจ

เมื่ออุปกรณ์สองตัวแย่งใช้หน้าเพจเดียวกัน คำแนะนำที่เหมาะสมจะหยุดการเด้งสลับไปมา คุณจะ ทำให้ตำแหน่งมีเสถียรภาพ เพื่อให้ข้อมูลหยุดย้ายกลับไปกลับมา

ต่างจากการดึงข้อมูลล่วงหน้าแบบครั้งเดียว คำแนะนำจะ คงอยู่กับพื้นที่นั้นจนกว่าคุณจะเปลี่ยนแปลง คำแนะนำนี้มีผลต่อการตัดสินใจย้ายข้อมูลทุกครั้งตลอดอายุการใช้งานของบัฟเฟอร์

แฟล็ก Set ทุกตัวมีรูปแบบ Unset ที่สอดคล้องกันเพื่อยกเลิกคำใบ้ ล้างคำแนะนำเมื่อรูปแบบการเข้าถึงเปลี่ยนไป เพื่อไม่ให้ไดรเวอร์เข้าใจผิด

เครื่องมือทั้งสองทำงานร่วมกันได้ดี ตั้งค่า PreferredLocation เพื่อกำหนดตำแหน่งหลัก จากนั้นดึงข้อมูลล่วงหน้าเพื่อเติมข้อมูลลงไป แล้วการย้ายข้อมูลจะเข้าสู่รูปแบบที่คงที่

จำชื่อไว้ให้ดี คำแนะนำเป็นเพียง ข้อเสนอแนะ ไม่ใช่การรับประกัน ไดรเวอร์อาจเพิกเฉยหรือเปลี่ยนแปลงได้ ดังนั้นควรทำโพรไฟล์เสมอเพื่อยืนยันว่าการจัดวางช่วยได้จริง

ตอนนี้คุณมีตัวควบคุมสามอย่าง ได้แก่ พอยน์เตอร์แบบจัดการหนึ่งตัว การดึงข้อมูลล่วงหน้าเพื่อควบคุมจังหวะเวลา และคำแนะนำเพื่อควบคุมตำแหน่ง เมื่อใช้ร่วมกัน ทั้งสามอย่างทำให้หน่วยความจำแบบรวมทั้ง ใช้งานง่ายและรวดเร็ว

คุณได้เรียนรู้คำใบ้ของ cudaMemAdvise เช่น ReadMostly, PreferredLocation และ AccessedBy เพื่อช่วยกำหนดตำแหน่งหน้าเพจ ใช้ร่วมกับการดึงข้อมูลล่วงหน้าและการทำโพรไฟล์ ทำได้ดีมาก! 🎯