Migrasi Halaman Sesuai Permintaan

Dengan memori terkelola, data tidak memiliki tempat tetap. Data berpindah secara diam-diam antara CPU dan GPU melalui migrasi halaman sesuai permintaan, mengikuti tempat data tersebut digunakan.

Sistem melacak memori dalam potongan tetap yang disebut halaman, biasanya berukuran 4 KB atau 64 KB. Migrasi terjadi satu halaman setiap kali, bukan satu byte setiap kali.

Saat GPU mengakses halaman yang berada di CPU, GPU memicu kesalahan halaman. Pengandar berhenti sejenak, menyalin halaman tersebut, lalu membiarkan utas melanjutkan.

Aturannya sederhana: data bermigrasi ke pihak yang menggunakannya. Tulis di CPU dan halaman berada di sana; baca dalam inti dan halaman berpindah ke GPU.

Biayanya muncul pada akses pertama dari sisi yang baru. Setelah halaman tiba, pembacaan berikutnya pada perangkat yang sama berlangsung cepat dan lokal.

Jika CPU dan GPU terus mengakses halaman yang sama secara bergantian, halaman tersebut berpindah bolak-balik. Migrasi pingpong ini dapat diam-diam merusak laju pemrosesan Anda.

Setiap kesalahan membawa biaya tambahan untuk persiapan, sehingga ribuan kesalahan kecil menjadi mahal. Migrasi secara massal lebih baik daripada memicu kesalahan untuk halaman terpencar satu per satu.

Bahkan dengan migrasi otomatis, pola akses yang baik tetap unggul. Utas yang membaca alamat berdekatan dapat menarik seluruh halaman secara efisien, bukan memicu kesalahan secara terpencar.

Migrasi memungkinkan Anda mengalokasikan memori melebihi kapasitas GPU. Halaman masuk sesuai kebutuhan dan halaman lama dikeluarkan, sehingga himpunan data besar tetap dapat berjalan, hanya saja lebih lambat.

Penganalisis kinerja seperti Nsight Systems menampilkan lalu lintas migrasi dan jumlah kesalahan. Menemukan migrasi yang berat memberi tahu Anda secara tepat di mana harus menambahkan petunjuk berikutnya.

Migrasi sesuai permintaan sangat otomatis dan praktis, tetapi kesalahan tidaklah gratis. Mengetahui biayanya memungkinkan Anda memperbaikinya dengan pratarik dan saran.

Anda telah melihat bahwa halaman terkelola bermigrasi saat terjadi kesalahan, menuju pihak yang menggunakannya. Akses pertama lambat, pingpong merugikan, dan pemindahan massal lebih unggul. Mari lanjutkan! 🚀