พื้นที่แอดเดรสแยกจากกัน

CPU และ GPU ต่างมี RAM ของตนเอง ทั้งสองไม่ได้ใช้พื้นที่ที่อยู่ร่วมกัน และข้อเท็จจริงนี้เป็นพื้นฐานของ CUDA ทั้งหมด 🧠

ตัวชี้เป็นเพียงตัวเลขที่ระบุตำแหน่งหนึ่งในหน่วยความจำ ตำแหน่งนั้นจะมีความหมายเฉพาะใน พื้นที่ที่อยู่ที่ตัวชี้ถูกสร้างขึ้น

ตัวชี้จาก malloc ระบุ หน่วยความจำโฮสต์ GPU ไม่มีตำแหน่งดังกล่าว ดังนั้นการส่งตัวชี้นี้ให้เคอร์เนลจึงชี้ไปยังตำแหน่งที่ใช้ไม่ได้

ตัวชี้จาก cudaMalloc ระบุ หน่วยความจำอุปกรณ์ CPU ไม่สามารถอ่านได้โดยตรง การเข้าถึงตัวชี้นี้จากโฮสต์จะทำให้โปรแกรมหยุดทำงาน

การส่ง ตัวชี้โฮสต์เข้าไปในเคอร์เนลคอมไพล์ผ่านได้ตามปกติ แต่ล้มเหลวขณะทำงาน ตัวเลขนั้นถูกต้อง แต่หน่วยความจำที่ระบุไม่ได้อยู่บน GPU

ตัวชี้ทั้งสองดูเหมือนเป็นชนิดเดียวกันสำหรับ C++ ดังนั้นคอมไพเลอร์จึงไม่แจ้งเตือน ความ ไม่ตรงกันจะแสดงปัญหาเมื่อ GPU เข้าถึงที่อยู่นั้นเท่านั้น

เมื่อต้องการย้ายข้อมูลระหว่างพื้นที่ คุณต้องคัดลอกอย่างชัดเจนด้วย cudaMemcpy ไม่มีการใช้ข้อมูลร่วมกันโดยอัตโนมัติระหว่างสองฝั่ง

โปรแกรมเมอร์จำนวนมากเติมคำนำหน้า h_ ให้ตัวชี้โฮสต์ และ d_ ให้ตัวชี้อุปกรณ์ นี่เป็นนิสัยที่ช่วยป้องกันการสับสนที่แก้ไขได้ยาก

ภายในเคอร์เนล ตัวชี้ทุกตัวที่คุณเข้าถึงค่าต้องอยู่ใน หน่วยความจำอุปกรณ์ นี่เป็นพื้นที่เดียวที่เธรด GPU เข้าถึงได้

ภายหลังคุณจะได้รู้จัก หน่วยความจำแบบรวม ซึ่งใช้ตัวชี้เดียวที่ถูกต้องได้ทั้งสองฝั่ง แต่ตอนนี้ให้แยกตัวชี้โฮสต์และอุปกรณ์ออกจากกันอย่างเคร่งครัด

ลองนึกภาพห้องสองห้องที่ไม่มีชั้นวางร่วมกัน หากต้องการใช้ข้อมูลในอีกห้อง คุณต้อง ถือสำเนาข้ามไป ห้ามเพียงชี้ข้ามห้อง

คุณได้เรียนรู้ว่าโฮสต์และอุปกรณ์อยู่ใน พื้นที่ที่อยู่แยกจากกัน ตัวชี้ไม่สามารถใช้แทนกันได้ และ cudaMemcpy คือวิธีส่งข้อมูลข้ามช่องว่างนี้ ✅