माँग पर पेज माइग्रेशन

प्रबंधित मेमोरी में डेटा का कोई स्थायी स्थान नहीं होता। वह माँग पर पेज स्थानांतरण के माध्यम से CPU और GPU के बीच चुपचाप चलता रहता है और जहाँ उपयोग किया जाता है, वहीं पहुँच जाता है।

सिस्टम मेमोरी को निश्चित आकार के खंडों में ट्रैक करता है जिन्हें पेज कहते हैं; इनका आकार अक्सर 4 KB या 64 KB होता है। स्थानांतरण एक बार में एक पेज का होता है, एक-एक बाइट का नहीं।

जब GPU CPU पर मौजूद किसी पेज को छूता है, तो वह पेज फ़ॉल्ट उत्पन्न करता है। ड्राइवर रुकता है, उस पेज को कॉपी करता है और फिर थ्रेड को आगे चलने देता है।

नियम सरल है: डेटा उसका उपयोग करने वाले पक्ष के पास स्थानांतरित हो जाता है। CPU पर लिखने पर पेज वहीं रहते हैं और कर्नेल में पढ़ने पर GPU में चले जाते हैं।

लागत किसी नए पक्ष से होने वाली पहली पहुँच पर दिखाई देती है। पेज पहुँच जाने के बाद उसी डिवाइस पर बाद की रीड तेज़ और स्थानीय होती हैं।

यदि CPU और GPU बारी-बारी से उन्हीं पेजों का उपयोग करते रहें, तो वे आगे-पीछे उछलते रहते हैं। यह पिंग-पोंग स्थानांतरण चुपचाप आपकी थ्रूपुट को बुरी तरह घटा सकता है।

हर फ़ॉल्ट के साथ तैयारी का अतिरिक्त खर्च जुड़ा होता है, इसलिए हज़ारों छोटे फ़ॉल्ट महँगे पड़ते हैं। एक-एक बिखरे पेज को स्थानांतरित करने के बजाय थोक में स्थानांतरण बेहतर है।

स्वचालित स्थानांतरण के बावजूद अच्छे ऐक्सेस पैटर्न बेहतर परिणाम देते हैं। पास-पास के पते पढ़ने वाले थ्रेड पूरे पेज कुशलता से लाते हैं और बिखरे हुए फ़ॉल्ट कम करते हैं।

स्थानांतरण आपको GPU की क्षमता से अधिक मेमोरी आवंटित करने देता है। ज़रूरत के अनुसार पेज आते हैं और पुराने पेज हटा दिए जाते हैं, इसलिए बड़े डेटासेट चल सकते हैं, बस धीमे।

Nsight Systems जैसे प्रोफ़ाइलर स्थानांतरण ट्रैफ़िक और फ़ॉल्ट की संख्या दिखाते हैं। भारी स्थानांतरण पहचानने से आपको पता चलता है कि आगे संकेत कहाँ जोड़ने हैं।

माँग पर होने वाला स्थानांतरण बहुत सुविधाजनक और स्वचालित है, लेकिन फ़ॉल्ट निःशुल्क नहीं होते। उनकी लागत समझने पर ही आप प्रीफ़ेच और सलाह से समस्या ठीक कर सकते हैं।

आपने देखा कि फ़ॉल्ट होने पर प्रबंधित पेज उनका उपयोग करने वाले पक्ष के पास स्थानांतरित हो जाते हैं। पहली पहुँच धीमी होती है, पिंग-पोंग नुकसानदेह है और थोक स्थानांतरण बेहतर रहता है। आगे बढ़ें! 🚀