Espacios de direcciones separados

La CPU y la GPU tienen su propia RAM. No comparten un mismo espacio de direcciones, y ese único hecho determina gran parte de CUDA. 🧠

Un puntero es simplemente un número que identifica una posición de memoria. Esa posición solo tiene sentido en el address space donde se creó.

Un puntero obtenido con malloc identifica host memory. La GPU no tiene esa posición, por lo que pasárselo a un kernel apunta a un lugar no válido.

Un puntero obtenido con cudaMalloc identifica device memory. La CPU no puede leerlo directamente; desreferenciarlo en el host provoca un fallo.

Pasar un host pointer a un kernel compila correctamente, pero falla en tiempo de ejecución. El número es válido; la memoria que identifica no está en la GPU.

Para C++, ambos punteros parecen tener el mismo tipo, por lo que el compilador no avisa. El mismatch solo causa problemas cuando la GPU accede a la dirección.

Para mover datos entre ambos espacios debe copiarlos explícitamente con cudaMemcpy. No existe intercambio automático entre ellos.

Muchos programadores anteponen h_ a los punteros del host y d_ a los punteros del dispositivo. Es una costumbre que evita confusiones dolorosas.

Dentro de un kernel, todo puntero que desreferencie debe estar en device memory. Ese es el único espacio al que pueden acceder los subprocesos de la GPU.

Más adelante conocerá la unified memory, que permite usar un mismo puntero válido en ambos lados. Por ahora, mantenga estrictamente separados los punteros del host y del dispositivo.

Imagine dos habitaciones sin estantes compartidos. Para usar datos de la otra habitación debe carry a copy, nunca limitarse a apuntar hacia el otro lado.

Ha aprendido que el host y el dispositivo viven en separate address spaces, que los punteros no son intercambiables y que cudaMemcpy permite transferir datos entre ambos. ✅