Procesamiento por bloques para imágenes grandes

Es posible que una imagen enorme no quepa en la memoria de la GPU o que copiarla completa bloquee el pipeline. La solución es dividirla en teselas y procesarlas por turnos. 🖼️

Divida la imagen en bandas de filas o teselas rectangulares. Cada tesela es lo bastante pequeña como para transferirla al dispositivo, procesarla y devolverla sin sobrecargar la memoria del dispositivo.

Cada tesela sigue el mismo ritmo: copiarla al dispositivo, ejecutar el kernel y copiar el resultado de vuelta. Repita el proceso hasta completar toda la imagen.

Si se procesan una a una, la GPU permanece inactiva durante cada copia. Para obtener un mejor rendimiento, debe solapar la transferencia de una tesela con el cálculo de otra.

Envíe el trabajo de cada tesela a su propio stream. De este modo, el controlador puede ejecutar el kernel de una tesela mientras la copia de otra sigue en curso.

cudaMemcpy normal bloquea el host e impide el solapamiento. Use cudaMemcpyAsync en un stream para poner la copia en cola sin detenerlo todo.

Las transferencias asíncronas necesitan memoria del host fijada para utilizar DMA. Asigne los buffers de preparación de las teselas con cudaMallocHost; de lo contrario, el solapamiento volverá silenciosamente a un modo bloqueante.

Mantenga dos buffers de tesela y alterne los streams. Mientras se calcula la tesela N, se carga la tesela N+1, ocultando las transferencias detrás del trabajo en un pipeline fluido.

Un desenfoque cerca del borde de una tesela necesita píxeles de la tesela vecina. Incluya un margen de solapamiento llamado halo para que los resultados de los bordes sigan siendo correctos.

El trabajo asíncrono no ha terminado cuando la llamada devuelve el control. Llame a cudaStreamSynchronize en cada stream antes de volver a leer en el host el resultado de una tesela.

Con teselas transmitidas mediante streams y doble buffer, la GPU se mantiene ocupada independientemente del tamaño de la imagen. Las transferencias quedan ocultas tras el cálculo y el rendimiento se mantiene alto. ⚡

Dividió las imágenes grandes en teselas, utilizó streams con copias asíncronas y memoria fijada para solapar operaciones, aplicó doble buffer al pipeline y añadió halos para corregir los bordes. 🎯