API คำนวณความหนาแน่นการใช้งาน

แทนที่จะปรับด้วยตนเอง CUDA มี API สำหรับการครอบครองทรัพยากรที่คำนวณขนาดบล็อกที่เหมาะสมสำหรับเคอร์เนลของคุณโดยอัตโนมัติ

การเรียกใช้เพียงครั้งเดียวจัดการงานสำคัญให้ทั้งหมด นั่นคือ cudaOccupancyMaxPotentialBlockSize ซึ่งจะแนะนำขนาดบล็อกที่เพิ่มการครอบครองทรัพยากรให้สูงสุด

ฟังก์ชันจะเติมขนาด บล็อกที่แนะนำและขนาดกริดขั้นต่ำที่จำเป็นต่อการใช้ทรัพยากรของอุปกรณ์อย่างเต็มที่สำหรับเคอร์เนลของคุณ

API จะอ่านการใช้ รีจิสเตอร์และหน่วยความจำใช้ร่วมกันจริงของเคอร์เนล ดังนั้นคำแนะนำจึงเหมาะกับเคอร์เนลนั้นโดยเฉพาะ ไม่ใช่การเดาแบบทั่วไป

การเรียกใช้ที่เกี่ยวข้องจะรายงานจำนวนบล็อกที่ทำงานอยู่ต่อ SM ซึ่งการตั้งค่าหนึ่งให้ได้ คุณจึง คาดการณ์การครอบครองทรัพยากรได้ก่อนเปิดใช้งาน

คูณจำนวนบล็อกต่อ SM ด้วยจำนวนวอร์ปต่อบล็อก แล้วหารด้วยจำนวนวอร์ปสูงสุดของ SM ก็จะได้เปอร์เซ็นต์ การครอบครองทรัพยากรตามทฤษฎี

การเรียกใช้เหล่านี้รับอาร์กิวเมนต์ หน่วยความจำใช้ร่วมกันแบบไดนามิก ดังนั้นการคาดการณ์จึงยังแม่นยำเมื่อเคอร์เนลกำหนดขนาดหน่วยความจำใช้ร่วมกันขณะเปิดใช้งาน

เนื่องจากฟังก์ชันสอบถามอุปกรณ์ที่กำลังทำงานอยู่ โค้ดเดียวกันจึงเลือกขนาดที่เหมาะสมบน GPU ต่างรุ่นได้โดยไม่ต้องกำหนดตัวเลขตายตัว

เรียกใช้ API สำหรับการครอบครองทรัพยากรหนึ่งครั้งระหว่าง การเริ่มต้น เก็บขนาดบล็อกไว้ แล้วนำกลับมาใช้กับการเปิดใช้งานเคอร์เนลนั้นทุกครั้ง

ขนาดที่แนะนำเป็น จุดเริ่มต้นที่ดีเยี่ยม คุณยังสามารถทดสอบขนาดใกล้เคียงอีกเล็กน้อยเพื่อหาค่าที่ดีที่สุดจริงสำหรับข้อมูลของคุณ

ขนาดที่กำหนดตายตัว เช่น 256 อาจใช้ไม่ได้เมื่อทรัพยากรเปลี่ยนแปลง ส่วน API จะปรับตัวและทำให้เคอร์เนลของคุณอยู่ใกล้การครอบครองทรัพยากรสูงสุดโดยอัตโนมัติ

คุณได้รู้จัก API สำหรับการครอบครองทรัพยากร ซึ่งแนะนำขนาดบล็อกที่ใช้ได้กับอุปกรณ์หลายแบบและสอดคล้องกับเคอร์เนล พร้อมคาดการณ์การครอบครองทรัพยากรก่อนเปิดใช้งาน ⚙️