El lanzamiento con triple ángulo

No se llama a un kernel como a una función normal. Se lanza, indicando a la GPU cuántos hilos debe iniciar al mismo tiempo. 🚀

El lanzamiento utiliza los corchetes angulares triples especiales de CUDA. Dentro de ellos se proporciona una configuración de lanzamiento antes de la lista normal de argumentos.

El primer valor establece cuántos bloques se lanzan. Un bloque es un grupo de hilos que se ejecutan juntos y comparten memoria rápida del chip.

El segundo valor establece los hilos por bloque. El total de hilos lanzados equivale al número de bloques multiplicado por los hilos por bloque.

Después de los corchetes, pase los argumentos normales del kernel entre paréntesis, igual que en cualquier llamada de C++.

Un lanzamiento es asíncrono: la CPU pone el trabajo en cola y continúa de inmediato. La GPU ejecuta el kernel en segundo plano.

Los números del lanzamiento no tienen que ser literales. A menudo se calcula en tiempo de ejecución el número de bloques a partir del tamaño de los datos.

Para grids y bloques en 2D o 3D, se utiliza un valor dim3. Este agrupa los tamaños x, y y z en el lanzamiento.

Un valor predeterminado seguro para los hilos por bloque es 128 o 256. Los valores deben ser múltiplos de 32 y no superar 1024.

Si solicita demasiados hilos por bloque, el lanzamiento falla silenciosamente. Debe comprobar los errores justo después del lanzamiento.

Interprete un lanzamiento así: ejecute este kernel en esta cantidad de bloques, con esta cantidad de hilos y estos argumentos. Resulta sencillo cuando se entiende.

Usted lanza con kernel<<>>(args). Los bloques multiplicados por los hilos dan el total, y los lanzamientos se ejecutan de forma asíncrona. ¡Ya lanza kernels como un profesional! 🎉