Sugerencias mediante cudaMemAdvise

El prefetch mueve los datos ahora; cudaMemAdvise, en cambio, indica al controlador cómo piensa utilizar una región para que pueda ubicar las páginas de forma inteligente con el tiempo.

Se pasan el puntero, el número de bytes, una marca de advice y un identificador de dispositivo. El controlador incorpora esa sugerencia a sus futuras decisiones de migración.

Use cudaMemAdviseSetReadMostly con datos que muchos dispositivos leen, pero rara vez modifican. El controlador puede mantener copias de solo lectura en ambos lados para evitar la migración.

Con cudaMemAdviseSetPreferredLocation, designa un dispositivo como ubicación principal de las páginas. Estas se resisten a alejarse incluso cuando otro lado las utiliza.

cudaMemAdviseSetAccessedBy indica que un dispositivo accederá a esta región, por lo que el controlador la mapea allí. El acceso se realiza a través del bus en lugar de mover las páginas.

Cuando dos dispositivos compiten por las mismas páginas, la sugerencia adecuada detiene el vaivén. Estabiliza la ubicación para que los datos dejen de migrar de un lado a otro.

A diferencia de un prefetch puntual, la sugerencia persiste en la región hasta que la cambie. Da forma a cada decisión de migración durante toda la vida del búfer.

Cada marca Set tiene una forma Unset equivalente para revocar la sugerencia. Elimine la sugerencia cuando cambie el patrón de acceso para no inducir a error al controlador.

Ambas herramientas combinan bien. Establezca PreferredLocation para definir la ubicación principal y, después, haga prefetch para llenarla; así las migraciones adoptan un patrón estable.

Recuerde el nombre: advice es una sugerencia, no una garantía. El controlador puede ignorarla, así que mida siempre para confirmar que la ubicación ha ayudado.

Ahora dispone de tres controles: un puntero gestionado, prefetch para el momento de la transferencia y advise para la ubicación. Juntos hacen que Unified Memory sea fácil y rápida.

Ha aprendido sugerencias de cudaMemAdvise como ReadMostly, PreferredLocation y AccessedBy para orientar la ubicación de las páginas. Combínelas con prefetch y profiling. ¡Muy bien! 🎯