Anatomía de un kernel de cálculo

Un kernel de cálculo es la rutina pequeña y especializada que realiza el verdadero trabajo numérico, como sumar dos matrices elemento a elemento.

La mayor parte del tiempo de un kernel transcurre en un único bucle interno y ajustado. Acelere ese bucle y acelerará todo el programa.

Un kernel limpio recibe sus búferes de datos como parámetros, de modo que la misma rutina puede ejecutarse con cualquier matriz que le pase.

Los kernels se escriben con fn, no con def. El estilo estricto y tipado permite que Mojo compile código máquina ajustado y sin sorpresas.

Los kernels más rápidos hacen una sola cosa. Un cuerpo interno corto y predecible es fácil de optimizar de forma agresiva para el compilador.

Evite trabajos costosos, como asignaciones o E/S, dentro del bucle crítico. Cada iteración debe ser barata y uniforme para lograr el máximo rendimiento.

Piense en términos de operaciones totales. Un kernel sobre n elementos realiza aproximadamente n unidades de trabajo, por lo que n determina el coste.

Muchos kernels no están limitados por el cálculo, sino por la memoria. Esperan a los datos, por lo que la forma de mover los bytes suele ser lo más importante.

Diseñe el bucle de modo que más adelante cada paso pueda procesar muchos elementos con SIMD. Un patrón de acceso regular facilita la vectorización.

Un kernel clásico es saxpy: out = scale times a plus b. Es pequeño, regular y una excelente referencia para optimizar.

Comience con la versión sencilla y correcta, y mida su tiempo. Ese número es su referencia para cada optimización posterior.

Un kernel es un fn pequeño cuyo bucle interno y ajustado realiza el trabajo; manténgalo uniforme, tenga en cuenta la memoria y mida primero una referencia. 🔧