Ruang Alamat Terpisah

CPU dan GPU masing-masing memiliki RAM sendiri. Keduanya tidak berbagi satu ruang alamat, dan fakta sederhana ini membentuk seluruh CUDA. 🧠

Penunjuk hanyalah angka yang menamai suatu lokasi dalam memori. Lokasi tersebut hanya bermakna dalam ruang alamat tempat penunjuk itu dibuat.

Penunjuk dari malloc menunjuk ke memori host. GPU tidak memiliki lokasi seperti itu, sehingga menyerahkannya kepada kernel akan menunjuk ke tempat yang tidak valid.

Penunjuk dari cudaMalloc menunjuk ke memori perangkat. CPU tidak dapat membacanya secara langsung; melakukan dereferensi pada host akan menyebabkan program berhenti karena kesalahan.

Meneruskan penunjuk host ke kernel dapat dikompilasi tanpa masalah, tetapi gagal saat program berjalan. Angkanya valid; memori yang ditunjuknya tidak berada di GPU.

Kedua penunjuk terlihat sebagai jenis yang sama bagi C++, sehingga kompilator tidak memberikan peringatan. Ketidakcocokan tersebut baru menimbulkan masalah saat GPU mengakses alamatnya.

Untuk memindahkan data antar-ruang, Anda harus menyalinnya secara eksplisit menggunakan cudaMemcpy. Tidak ada pembagian otomatis antar-ruang tersebut.

Banyak pemrogram menambahkan awalan h_ pada penunjuk host dan d_ pada penunjuk perangkat. Kebiasaan ini mencegah kekeliruan yang merepotkan.

Di dalam kernel, setiap penunjuk yang Anda dereferensi harus berada di memori perangkat. Itulah satu-satunya ruang yang dapat dijangkau oleh utas GPU.

Nanti Anda akan berkenalan dengan memori terpadu, yaitu satu penunjuk yang valid di kedua sisi. Untuk saat ini, pisahkan penunjuk host dan perangkat dengan ketat.

Bayangkan dua ruangan tanpa rak yang digunakan bersama. Untuk menggunakan data di ruangan lain, Anda harus membawa salinannya, bukan sekadar menunjuk menyeberang.

Anda telah mempelajari bahwa host dan perangkat berada dalam ruang alamat yang terpisah, penunjuk tidak dapat dipertukarkan, dan cudaMemcpy digunakan untuk menyeberangkan data. ✅